Datenschutz und Sicherheit für BrazeAI Operator

BrazeAI Operator^TM ist mit OpenAI integriert, um KI-gestützte Unterstützung bereitzustellen. Dieser Artikel behandelt den Umgang von Operator mit Daten, welche Informationen mit OpenAI geteilt werden und wie Sie die PII-Exposition minimieren und den Zugriff kontrollieren können.

Wie Operator auf Daten zugreift

Der Zugriff von Operator auf Kundendaten ist strikt ereignisgesteuert und auf den jeweiligen Aufruf beschränkt, nicht persistent. Jede Nutzernachricht oder jedes Navigationsereignis bei geöffnetem Operator löst eine einzelne HTTP-Anfrage an OpenAI aus. Es gibt keine dauerhafte Verbindung oder einen persistenten Datenfeed.

OpenAI hat keinen direkten Zugriff auf Braze-Datenspeicher oder die vollständige Nutzertabelle. Das LLM erhält nur die spezifische Nutzlast, die mit der aktiven Anfrage verknüpft ist.

Welche Daten in jeder Anfrage enthalten sind

Jede an OpenAI gesendete Anfragenutzlast kann Folgendes enthalten:

• Systemmetadaten: Von Braze erstellte Systemprompts und Tool-Schemata (Definitionen der Tools, die das LLM aufrufen kann).
• Dashboard-Nutzernachricht: Die getippte Eingabe der Dashboard-Nutzer:in.
• Tool-Ausgaben: Suchergebnisse mit Namen, IDs und zugehörigen Daten.
• Gescrapte Seiteninhalte: Inhalte der aktiven Dashboard-Seite, auf etwa 4.000 Zeichen gekürzt.
• Seitenkontext-Strings: Kontextuelle Strings der aktiven Dashboard-Seite.

Daten-Unterauftragsverarbeiter

Modellanbieter als Unterauftragsverarbeiter oder Drittanbieter

Wenn Sie eine Integration mit einem LLM-Anbieter nutzen, der von Braze über die Braze-Dienste bereitgestellt wird („von Braze bereitgestelltes LLM“), agieren die Anbieter eines solchen von Braze bereitgestellten LLM als Braze-Unterauftragsverarbeiter, vorbehaltlich der Bedingungen des Datenverarbeitungszusatzes (DPA) zwischen Ihnen und Braze. BrazeAI Operator^TM ist mit OpenAI integriert.

Wie Daten mit OpenAI verwendet werden

Um KI-Ausgaben über BrazeAI-Features zu generieren, die OpenAI nutzen („Ausgabe“), sendet Braze bestimmte Informationen („Eingabe“) an OpenAI. Die Eingabe besteht aus Ihren Prompts, den im Dashboard angezeigten Inhalten und Workspace-Daten, die für Ihre Abfragen relevant sind. Gemäß den API-Plattform-Verpflichtungen von OpenAI werden Daten, die über Braze an die API von OpenAI gesendet werden, nicht zum Trainieren oder Verbessern von OpenAI-Modellen verwendet. Zwischen Ihnen und Braze ist die Ausgabe Ihr geistiges Eigentum. Braze wird keine Urheberrechtsansprüche auf solche Ausgaben geltend machen. Braze gibt keinerlei Garantie in Bezug auf KI-generierte Inhalte, einschließlich der Ausgabe.

HIPAA-Konformität und Datenaufbewahrung

HIPAA-Konformität

Wenn Sie den US-02-Cluster von Braze verwenden, ist Operator durch die Business Associate Agreement (BAA) von Braze abgedeckt, und persönliche Gesundheitsinformationen (PHI) können gemäß den HIPAA-Anforderungen an das Feature übermittelt werden. Übermitteln Sie keine PHI, die dem HIPAA unterliegen, wenn Sie Operator in anderen Braze-Clustern verwenden.

PII-Schwärzung

Es gibt keine automatisierte PII-Schwärzungsschicht in der Operator-Anfragepipeline. Daten werden vollständig unverarbeitet gesendet und vor der Übertragung an OpenAI nicht anonymisiert. Der Zugriff ist auf die aktive Dashboard-Seite oder die Eingabe der Dashboard-Nutzer:in beschränkt, aber es wird keine Inhaltsfilterung vor der Übertragung angewendet.

Datenaufbewahrung bei OpenAI

Wie lange OpenAI die über Operator gesendeten Daten aufbewahrt, hängt von Ihrem Cluster ab:

Modelltraining

Daten, die über Braze an die API von OpenAI gesendet werden, werden nicht zum Trainieren oder Verbessern von OpenAI-Modellen verwendet. Dies wird durch vertragliche Vereinbarungen zwischen Braze und OpenAI sowie die API-Plattform-Verpflichtungen von OpenAI geregelt. OpenAI agiert als Braze-Unterauftragsverarbeiter, und alle personenbezogenen Daten unterliegen dem DPA zwischen Braze und seinen Kund:innen.

EU-Datenrouting

EU-Datenrouting ist derzeit für Operator nicht implementiert, und es gibt aktuell keine Pläne, dies umzusetzen.

PII-Exposition minimieren

Es gibt mehrere Schritte, die Sie unternehmen können, um die PII-Exposition bei der Nutzung von Operator zu begrenzen:

• Deaktivieren Sie die Einstellung „PII anzeigen“ für alle Nutzer:innen, die Operator verwenden. Wenn Nutzer:innen PII nicht einsehen können, kann Operator ebenfalls nicht darauf zugreifen.
• Öffnen Sie Operator nicht auf einer Nutzerprofilseite. Seiteninhalte werden gescrapt und in jede an OpenAI gesendete Anfrage einbezogen.
• Verwenden Sie beim Testen ein angepasstes Nutzerprofil, anstatt ein bestehendes auszuwählen. Dies ist das Standardverhalten von Operator.
• Geben Sie keine PII direkt in den Operator-Prompt ein und fügen Sie dort auch keine PII ein.
• Deaktivieren Sie die automatische Genehmigung für Aktionen, um die Kontrolle darüber zu behalten, worauf Operator zugreifen und was Operator ausführen kann.
• Bitten Sie Operator nicht, Vorschauwerte für Attribute anzuzeigen, wenn Sie ein Segment erstellen oder Liquid schreiben.

Governance und Zugriffskontrolle

Zugriff auf Operator einschränken

Der Zugriff auf Operator wird auf Workspace-Ebene über granulare Nutzerberechtigungen verwaltet. Administrator:innen können die Berechtigung BrazeAI Operator verwenden für einzelne Nutzer:innen gewähren oder entziehen, um sicherzustellen, dass nur autorisiertes Personal mit dem Tool interagieren kann. Ohne diese spezifischen Berechtigungen wird die Operator-Oberfläche vollständig unterdrückt und die Backend-Endpunkte bleiben gesichert.

Human-in-the-Loop-Modell

Standardmäßig erfordert Operator eine explizite Genehmigung, bevor eine Änderung übernommen wird. Vorgeschlagene Änderungen werden als Aktionskarten zur Überprüfung präsentiert. Wenn Nutzer:innen einen Vorschlag ablehnen, werden keine Änderungen vorgenommen. Wenn Nutzer:innen einen Vorschlag annehmen, wird das Dashboard aktualisiert, aber die Änderungen bleiben ausstehend und müssen manuell gespeichert oder gestartet werden, um persistent zu werden.

Nutzer:innen können Aktionen automatisch genehmigen im Operator-Chat-Panel aktivieren, wodurch vorgeschlagene Aktionen sofort ohne manuelle Überprüfung ausgeführt werden. Auch bei aktivierter automatischer Genehmigung erfordern einige Aktionen aus Sicherheitsgründen immer eine explizite Genehmigung, darunter das Generieren von Bildern und das Ändern von Workspace-Einstellungen.

Vererbung von Nutzerberechtigungen

Operator übernimmt vollständig das Berechtigungsprofil der angemeldeten Nutzer:in. Es ist ihm untersagt, Daten einzusehen oder Aktionen auszuführen, wie z. B. Campaign-Änderungen, zu denen die Nutzer:in nicht bereits eigenständig berechtigt ist.

Team-Nutzung überprüfen

Laden Sie den Sicherheitsereignisbericht von Braze herunter, um die Team-Nutzung zu überwachen. Das Ereignis „Requested BrazeAI Operator Response“ bietet einen umfassenden Audit-Trail, mit dem Sie die genauen Eingaben überprüfen können, die an Operator übermittelt wurden.