Datenschutz und Sicherheit für BrazeAI Operator

BrazeAI Operator^TM ist mit OpenAI integriert, um KI-gestützte Unterstützung bereitzustellen. Dieser Artikel behandelt den Umgang von Operator mit Daten, welche Informationen mit OpenAI geteilt werden und wie Sie die PII-Exposition minimieren und den Zugriff kontrollieren können.

Wie Operator auf Daten zugreift

Der Zugriff von Operator auf Kundendaten ist strikt ereignisgesteuert und auf den jeweiligen Aufruf beschränkt – nicht persistent. Jede Nutzernachricht oder jedes Navigationsereignis, während Operator geöffnet ist, löst eine einzelne HTTP-Anfrage an OpenAI aus. Es gibt weder eine ständige Verbindung noch einen persistenten Datenstrom.

OpenAI hat keinen direkten Zugriff auf Braze-Datenspeicher oder die gesamte Nutzertabelle. Das LLM erhält ausschließlich die spezifische Payload, die mit der aktiven Anfrage verknüpft ist.

Welche Daten in jeder Anfrage enthalten sind

Jede an OpenAI gesendete Anfrage-Payload kann Folgendes umfassen:

• Systemmetadaten: Von Braze erstellte System-Prompts und Tool-Schemas (Definitionen der Tools, die das LLM aufrufen kann).
• Dashboard-Nutzernachricht: Die vom Dashboard-Nutzer bzw. von der Dashboard-Nutzerin eingegebene Textnachricht.
• Tool-Ausgaben: Suchergebnisse mit Namen, IDs und zugehörigen Daten.
• Gescrapte Seiteninhalte: Inhalte der aktiven Dashboard-Seite, gekürzt auf etwa 4.000 Zeichen.
• Seitenkontext-Strings: Kontextbezogene Strings der aktiven Dashboard-Seite.

Unterauftragsverarbeiter für Daten

Modellanbieter als Unterauftragsverarbeiter oder Drittanbieter

Wenn Sie eine von Braze über die Braze-Serviceleistungen bereitgestellte Integration mit einem LLM-Anbieter nutzen („von Braze bereitgestelltes LLM“), agieren die Anbieter eines solchen von Braze bereitgestellten LLM als Unterauftragsverarbeiter von Braze, vorbehaltlich der Bedingungen der Vereinbarung zur Datenverarbeitung (Datenschutzbeauftragte:r) zwischen Ihnen und Braze. BrazeAI Operator^TM ist mit OpenAI integriert.

Wie Daten mit OpenAI verwendet werden

Um KI-Ausgaben über BrazeAI-Features zu generieren, die OpenAI nutzen („Ausgabe“), sendet Braze bestimmte Informationen („Eingabe“) an OpenAI. Die Eingabe besteht aus Ihren Prompts, den im Dashboard angezeigten Inhalten und Workspace-Daten, die für Ihre Anfragen relevant sind. Gemäß den API-Plattform-Verpflichtungen von OpenAI werden Daten, die über Braze an die OpenAI-API gesendet werden, nicht zum Trainieren oder Verbessern von OpenAI-Modellen verwendet. Die Ausgabe ist – im Verhältnis zwischen Ihnen und Braze – Ihr geistiges Eigentum. Braze erhebt keine Urheberrechtsansprüche auf solche Ausgaben. Braze gibt keinerlei Gewährleistung in Bezug auf KI-generierte Inhalte, einschließlich der Ausgabe.

HIPAA-Konformität und Datenaufbewahrung

HIPAA-Konformität

Wenn Sie das US-02-Cluster von Braze nutzen, ist Operator durch die Geschäftspartnervereinbarung (BAA) von Braze abgedeckt, und geschützte Gesundheitsdaten (PHI) können gemäß den HIPAA-Anforderungen an das Feature übermittelt werden. Übermitteln Sie keine PHI, die dem HIPAA unterliegen, wenn Sie Operator in anderen Braze-Clustern verwenden.

PII-Schwärzung

In der Operator-Anfragepipeline gibt es keine automatisierte PII-Schwärzungsschicht. Daten werden vollständig im Rohformat gesendet und vor der Übermittlung an OpenAI nicht anonymisiert. Der Zugriff ist auf die aktive Dashboard-Seite oder die Eingabe der Dashboard-Nutzer:innen beschränkt, aber vor der Übermittlung wird keine Inhaltsfilterung angewendet.

Datenaufbewahrung durch OpenAI

Wie lange OpenAI die über Operator gesendeten Daten aufbewahrt, hängt von Ihrem Cluster ab:

Modelltraining

Daten, die über Braze an die API von OpenAI gesendet werden, werden nicht zum Trainieren oder Verbessern von OpenAI-Modellen verwendet. Dies wird durch vertragliche Vereinbarungen zwischen Braze und OpenAI sowie durch die Plattformverpflichtungen der OpenAI-API geregelt. OpenAI agiert als Unterauftragsverarbeiter von Braze, und alle personenbezogenen Daten unterliegen der Datenschutzvereinbarung (DPA) zwischen Braze und seinen Kund:innen.

EU-Datenrouting

EU-Datenrouting ist derzeit für Operator nicht implementiert, und es gibt aktuell keine Pläne, dies umzusetzen.

PII-Exposition minimieren

Es gibt mehrere Maßnahmen, die Sie ergreifen können, um die PII-Exposition bei der Verwendung von Operator zu begrenzen:

• Deaktivieren Sie die Einstellung „PII anzeigen“ für alle Nutzer:innen, die Operator verwenden. Wenn Nutzer:innen PII nicht einsehen können, kann Operator ebenfalls nicht darauf zugreifen.
• Öffnen Sie Operator nicht auf einer Nutzerprofil-Seite. Seiteninhalte werden gescrapt und in jede an OpenAI gesendete Anfrage einbezogen.
• Verwenden Sie beim Testen ein angepasstes Nutzerprofil, anstatt ein bestehendes auszuwählen. Dies ist das Standardverhalten von Operator.
• Geben Sie keine PII ein und fügen Sie keine PII direkt in den Operator-Prompt ein. Operator blockiert keine PII, die in Nutzer-Prompts enthalten sind. Wenn Nutzer:innen manuell PII in eine Anfrage eingeben, werden diese Inhalte an das zugrunde liegende Sprachmodell gesendet.
• Deaktivieren Sie die automatische Genehmigung für Aktionen, um die Kontrolle darüber zu behalten, worauf Operator zugreifen und was Operator ausführen kann.
• Bitten Sie Operator nicht, Vorschauwerte für Attribute anzuzeigen, wenn Sie ein Segment erstellen oder Liquid schreiben.

Governance und Zugriffskontrolle

Zugriff auf Operator einschränken

Der Zugriff auf Operator wird auf Workspace-Ebene über granulare Nutzerberechtigungen verwaltet. Administrator:innen können die Berechtigung „Use BrazeAI Operator“ für einzelne Nutzer:innen gewähren oder entziehen, um sicherzustellen, dass nur autorisierte Personen mit dem Tool interagieren können. Ohne diese spezifischen Berechtigungen wird die Operator-Oberfläche vollständig ausgeblendet und die Backend-Endpunkte bleiben gesichert.

Human-in-the-Loop-Modell

Standardmäßig erfordert Operator eine ausdrückliche Genehmigung, bevor eine Änderung vorgenommen wird. Vorgeschlagene Änderungen werden als Aktionskarten zur Überprüfung angezeigt. Wenn Nutzer:innen einen Vorschlag ablehnen, werden keine Änderungen vorgenommen. Wenn Nutzer:innen einen Vorschlag annehmen, wird das Dashboard aktualisiert. Die meisten Änderungen bleiben ausstehend, bis die Nutzer:innen sie manuell speichern oder starten, aber das Annehmen einer Speicheraktion, wie z. B. das Speichern eines Campaign-Entwurfs, wird sofort angewendet.

Nutzer:innen können Aktionen automatisch genehmigen im Operator-Chat-Panel aktivieren, wodurch vorgeschlagene Aktionen sofort ohne manuelle Überprüfung ausgeführt werden. Einige bestimmte Aktionen erfordern immer eine zusätzliche Bestätigung, auch wenn die automatische Genehmigung aktiviert ist:

• Eine Campaign starten. Selbst bei aktivierter automatischer Genehmigung wird Operator sie nicht aktivieren, es sei denn, jemand ist da, um dies zu bestätigen.
• Ein Element speichern, archivieren oder dearchivieren oder eine Workspace-weite Einstellung ändern. Operator kann die Änderung vornehmen, pausiert aber immer für eine Genehmigung.
• Ein Bild generieren oder einen Bericht, eine Abfrage oder eine Datensynchronisation ausführen. Diese können nutzungsbasierte Kosten verursachen, daher pausiert Operator immer für eine Genehmigung.

Für Aktionen, die Operator unabhängig von der Genehmigung überhaupt nicht ausführen kann, siehe Grenzen von Operator.

Vererbung von Nutzerberechtigungen

Operator erbt vollständig das Berechtigungsprofil der angemeldeten Nutzer:innen. Es ist eingeschränkt und kann keine Daten einsehen oder Aktionen ausführen, wie z. B. Campaign-Änderungen, zu denen die Nutzer:innen nicht bereits eigenständig berechtigt sind.

Berechtigung „PII anzeigen“

Operator benötigt die Berechtigung „View PII“ nicht, um zu funktionieren, und dies ist beabsichtigt. Operator hat keinen direkten Zugriff auf Ihren Datenspeicher und führt keine eigenständigen Datenbankabfragen durch. Stattdessen sendet es Anfragen an dieselben Backend-Endpunkte wie der Rest des Dashboards, unter Verwendung der Sitzungs-Zugangsdaten der authentifizierten Nutzer:innen. Das bedeutet, dass Operator vollständig durch die bestehenden Berechtigungen der Nutzer:innen begrenzt ist und auf nichts zugreifen kann, was die Nutzer:innen nicht bereits sehen können.

PII kann Operator nur auf zwei Wegen erreichen:

• Nutzer:innen geben PII direkt in einen Prompt ein.
• Nutzer:innen sehen bereits PII im Dashboard, wenn sie Operator verwenden.

Wenn Nutzer:innen die Berechtigung „View PII“ nicht haben, kann Operator ihnen keine PII anzeigen. Beachten Sie, dass Operator direkt in Prompts eingegebene Inhalte nicht filtert — manuell eingegebene PII wird an das zugrunde liegende Sprachmodell gesendet. Um dieses Risiko zu reduzieren, siehe PII-Exposition minimieren.

Team-Nutzung überprüfen

Laden Sie den Sicherheitsereignis-Bericht von Braze herunter, um die Team-Nutzung zu überwachen. Das Ereignis „Requested BrazeAI Operator Response“ bietet einen umfassenden Audit-Trail, mit dem Sie die genauen Eingaben überprüfen können, die an Operator übermittelt wurden.