Datenschutz und Sicherheit für BrazeAI Operator

BrazeAI Operator^TM ist mit OpenAI integriert, um KI-gestützte Unterstützung bereitzustellen. Dieser Artikel erklärt, wie Operator mit Daten umgeht, welche Informationen mit OpenAI geteilt werden und wie Sie die Offenlegung von PII minimieren und den Zugriff steuern können.

Wie Operator auf Daten zugreift

Operator greift auf Kundendaten ausschließlich ereignisgesteuert und auf den jeweiligen Aufruf beschränkt zu, nicht persistent. Jede Nachricht von Nutzer:innen und jedes Navigationsereignis bei geöffnetem Operator triggert eine separate HTTP-Anfrage an OpenAI. Es gibt keine dauerhafte Verbindung und keinen persistenten Datenfeed.

OpenAI hat keinen direkten Zugriff auf die Datenspeicher von Braze oder auf die vollständige Nutzertabelle. Das LLM erhält nur den spezifischen Payload, der zur aktiven Anfrage gehört.

Welche Daten jede Anfrage enthält

Jeder an OpenAI gesendete Anfrage-Payload kann Folgendes enthalten:

• Systemmetadaten: Von Braze verfasste System-Prompts und Tool-Schemas (Definitionen der Tools, die das LLM aufrufen kann).
• Nachricht von Dashboard-Nutzer:innen: Die Eingabe, die Dashboard-Nutzer:innen eintippen.
• Tool-Ausgaben: Suchergebnisse mit Namen, IDs und zugehörigen Daten.
• Ausgelesene Seiteninhalte: Inhalte der aktiven Dashboard-Seite, gekürzt auf etwa 4.000 Zeichen.
• Seitenkontext-Strings: Kontextbezogene Strings der aktiven Dashboard-Seite.

Unterauftragsverarbeiter für Daten

Modellanbieter als Unterauftragsverarbeiter oder Drittanbieter

Wenn Sie eine Integration mit einem LLM-Anbieter nutzen, die Braze im Rahmen der Braze-Dienste bereitstellt („von Braze bereitgestelltes LLM“), fungieren die Anbieter dieses von Braze bereitgestellten LLM als Unterauftragsverarbeiter von Braze. Dabei gelten die Bedingungen des Auftragsverarbeitungsvertrags (Data Processing Addendum, DPA) zwischen Ihnen und Braze. BrazeAI Operator^TM ist mit OpenAI integriert.

Wie Daten mit OpenAI verwendet werden

Um über BrazeAI-Features, die OpenAI nutzen, KI-Ausgaben zu generieren („Ausgabe“), sendet Braze bestimmte Informationen („Eingabe“) an OpenAI. Die Eingabe besteht aus Ihren Prompts, den im Dashboard angezeigten Inhalten und den für Ihre Anfragen relevanten Workspace-Daten. Gemäß den Verpflichtungen der API-Plattform von OpenAI werden Daten, die über Braze an die API von OpenAI gesendet werden, nicht dazu verwendet, OpenAI-Modelle zu trainieren oder zu verbessern. Im Verhältnis zwischen Ihnen und Braze ist die Ausgabe Ihr geistiges Eigentum. Braze erhebt keinerlei Urheberrechtsansprüche an einer solchen Ausgabe. Braze übernimmt keinerlei Gewährleistung für KI-generierte Inhalte, einschließlich der Ausgabe.

HIPAA-Konformität und Datenspeicherung

HIPAA-Konformität

Wenn Sie den US-02-Cluster von Braze nutzen, ist Operator durch das Business Associate Agreement (BAA) von Braze abgedeckt. Personenbezogene Gesundheitsdaten (PHI) können dann gemäß den Anforderungen des US-Gesetzes zum Schutz medizinischer Daten (HIPAA) an das Feature übermittelt werden. Übermitteln Sie keine HIPAA-pflichtigen PHI, wenn Sie Operator in anderen Braze-Clustern verwenden.

PII-Schwärzung

In der Anfrage-Pipeline von Operator gibt es keine automatische Schwärzung von PII. Die Daten werden vollständig unverändert gesendet und vor der Übertragung an OpenAI nicht anonymisiert. Der Zugriff beschränkt sich auf die aktive Dashboard-Seite oder die Eingaben der Dashboard-Nutzer:innen, vor der Übertragung werden jedoch keine Inhalte gefiltert.

Datenspeicherung bei OpenAI

Wie lange OpenAI die über Operator gesendeten Daten speichert, hängt von Ihrem Cluster ab:

Modelltraining

Daten, die über Braze an die API von OpenAI gesendet werden, werden nicht zum Trainieren oder Verbessern von OpenAI-Modellen verwendet. Dies ist durch vertragliche Vereinbarungen zwischen Braze und OpenAI sowie durch die Zusagen der API-Plattform von OpenAI geregelt. OpenAI agiert als Unterauftragsverarbeiter von Braze, und alle personenbezogenen Daten unterliegen dem Auftragsverarbeitungsvertrag (DPA) zwischen Braze und seinen Kund:innen.

EU-Datenrouting

EU-Datenrouting ist für Operator derzeit nicht implementiert, und es gibt aktuell keine Pläne für eine Implementierung.

PII-Offenlegung minimieren

Es gibt mehrere Schritte, mit denen Sie die Offenlegung von PII bei der Verwendung von Operator begrenzen können:

• Deaktivieren Sie die Einstellung „PII anzeigen“ für alle Nutzer:innen, die Operator verwenden. Wenn Nutzer:innen keine PII sehen können, kann auch Operator nicht darauf zugreifen.
• Öffnen Sie Operator nicht auf einer Nutzerprofilseite. Der Seiteninhalt wird ausgelesen und in jede Anfrage an OpenAI aufgenommen.
• Verwenden Sie beim Testen ein angepasstes Nutzerprofil, anstatt ein bestehendes auszuwählen. Dies ist das Standardverhalten von Operator.
• Geben Sie keine PII direkt in den Operator-Prompt ein und fügen Sie sie dort auch nicht ein. Operator blockiert keine PII in Prompts von Nutzer:innen. Wenn Nutzer:innen PII manuell in eine Anfrage eingeben, werden diese Inhalte an das zugrunde liegende Sprachmodell gesendet.
• Deaktivieren Sie die automatische Genehmigung von Aktionen, um die Kontrolle darüber zu behalten, worauf Operator zugreifen und was Operator ausführen kann.
• Bitten Sie Operator nicht, Vorschauwerte für Attribute anzuzeigen, wenn Sie ein Segment erstellen oder Liquid schreiben.

Governance und Zugriffskontrolle

Zugriff auf Operator einschränken

Der Zugriff auf Operator wird auf Workspace-Ebene über granulare Nutzerberechtigungen verwaltet. Administrator:innen können einzelnen Nutzer:innen die Berechtigung „Use BrazeAI Operator“ erteilen oder entziehen. So stellen sie sicher, dass nur autorisierte Personen mit dem Tool interagieren können. Ohne diese Berechtigungen wird die Operator-Schnittstelle vollständig ausgeblendet, und die Backend-Endpunkte bleiben geschützt.

Human-in-the-Loop-Modell

Standardmäßig benötigt Operator eine ausdrückliche Genehmigung, bevor Änderungen vorgenommen werden. Vorgeschlagene Änderungen werden als Aktionskarten zur Überprüfung angezeigt. Wenn Nutzer:innen einen Vorschlag ablehnen, erfolgen keine Änderungen. Wenn Nutzer:innen einen Vorschlag annehmen, wird das Dashboard aktualisiert. Die meisten Änderungen bleiben ausstehend, bis Nutzer:innen sie manuell speichern oder starten. Wird jedoch eine Speicheraktion angenommen, etwa das Speichern eines Campaign-Entwurfs, wird sie sofort angewendet.

Nutzer:innen können im Operator-Chat-Panel die Option Aktionen automatisch genehmigen aktivieren. Vorgeschlagene Aktionen werden dann sofort ohne manuelle Überprüfung ausgeführt. Einige bestimmte Aktionen erfordern immer eine zusätzliche Bestätigung, auch wenn die automatische Genehmigung aktiviert ist:

• Eine Campaign starten. Selbst bei aktivierter automatischer Genehmigung aktiviert Operator sie nur, wenn jemand die Aktion bestätigt.
• Einen Artikel speichern, archivieren oder aus dem Archiv holen oder eine Einstellung auf Workspace-Ebene ändern. Operator kann die Änderung vornehmen, wartet aber immer zuerst auf eine Genehmigung.
• Ein Bild generieren oder einen Bericht, eine Abfrage oder eine Datensynchronisierung ausführen. Hierfür können nutzungsabhängige Kosten anfallen, daher wartet Operator immer zuerst auf eine Genehmigung.

Aktionen, die Operator unabhängig von einer Genehmigung grundsätzlich nicht ausführen kann, finden Sie unter Grenzen von Operator.

Vererbung von Nutzerberechtigungen

Operator übernimmt vollständig das Berechtigungsprofil der angemeldeten Nutzer:innen. Operator kann keine Daten anzeigen und keine Aktionen ausführen, etwa Änderungen an Campaigns, zu denen die Nutzer:innen nicht bereits selbst berechtigt sind.

Berechtigung „View PII“

Operator benötigt die Berechtigung „View PII“ nicht, um zu funktionieren – und das ist beabsichtigt. Operator hat keinen direkten Zugriff auf Ihren Datenspeicher und fragt Ihre Datenbank nicht eigenständig ab. Stattdessen sendet Operator Anfragen an dieselben Backend-Endpunkte wie das restliche Dashboard und verwendet dabei die Sitzungs-Zugangsdaten der authentifizierten Nutzer:innen. Operator ist damit vollständig an die bestehenden Berechtigungen der Nutzer:innen gebunden und kann auf nichts zugreifen, was die Nutzer:innen nicht bereits sehen können.

PII können Operator nur auf zwei Wegen erreichen:

• Nutzer:innen geben PII direkt in einen Prompt ein.
• Nutzer:innen sehen bereits PII im Dashboard, während sie Operator verwenden.

Wenn Nutzer:innen nicht über die Berechtigung „View PII“ verfügen, kann Operator ihnen keine PII anzeigen. Beachten Sie, dass Operator Inhalte, die direkt in Prompts eingegeben werden, nicht filtert – manuell eingegebene PII werden an das zugrunde liegende Sprachmodell gesendet. Wie Sie dieses Risiko verringern, erfahren Sie unter PII-Offenlegung minimieren.