BrazeAI Operatorのデータプライバシーとセキュリティ
BrazeAI OperatorTMはOpenAIと統合し、AIを活用したアシスタンスを提供します。この記事では、Operatorがデータをどのように扱うか、OpenAIとどのような情報が共有されるか、PIIの露出を最小限に抑えてアクセスを制御する方法について説明します。
Operator がデータにアクセスする仕組み
Operator による顧客データへのアクセスは、厳密にイベント駆動型で、呼び出し単位に限定されています。永続的なアクセスではありません。Operator を開いている間、ユーザーのメッセージ送信やナビゲーションイベントが発生するたびに、OpenAI への個別の HTTP リクエストがトリガーされます。常時接続や永続的なデータフィードはありません。
OpenAI は Braze のデータストアやユーザーテーブル全体に直接アクセスできません。LLM が受け取るのは、アクティブなリクエストに関連する特定のペイロードのみです。
各リクエストに含まれるデータ
OpenAI に送信される各リクエストのペイロードには、次のものが含まれる場合があります。
- システムメタデータ: Braze が作成したシステムプロンプトとツールスキーマ (LLM が呼び出せるツールの定義)。
- ダッシュボードユーザーのメッセージ: ダッシュボードユーザーが入力した内容。
- ツールの出力: 名前、ID、関連データを含む検索結果。
- スクレイピングされたページコンテンツ: アクティブなダッシュボードページのコンテンツ。約 4,000 文字に切り詰められます。
- ページコンテキスト文字列: アクティブなダッシュボードページの文脈に応じた文字列。
データサブプロセッサー
サブプロセッサーまたはサードパーティプロバイダーとしてのモデルプロバイダー
Braze Services を通じて Braze が提供する LLM プロバイダーとのインテグレーション（「Braze 提供の LLM」）を使用する場合、当該 Braze 提供の LLM のプロバイダーは、お客様と Braze との間のデータ処理補遺 (DPA) の条件に従い、Braze のサブプロセッサーとして機能します。BrazeAI OperatorTM は OpenAI と統合されています。
OpenAI でのデータの使用方法
OpenAI を活用する BrazeAI 機能を通じて AI 出力（「出力」）を生成するために、Braze は特定の情報（「入力」）を OpenAI に送信します。入力は、お客様のプロンプト、ダッシュボードに表示されるコンテンツ、およびクエリに関連するワークスペースデータで構成されます。OpenAI の API プラットフォームに関するコミットメントに基づき、Braze を通じて OpenAI の API に送信されたデータは、OpenAI モデルのトレーニングや改善には使用されません。お客様と Braze との間において、出力はお客様の知的財産です。Braze は、当該出力に対する著作権の所有権を主張しません。Braze は、出力を含む AI 生成コンテンツに関して、いかなる種類の保証も行いません。
HIPAA への準拠とデータ保持
HIPAA への準拠
Braze の US-02 クラスターを使用している場合、Operator は Braze の事業提携契約 (BAA) の対象となり、HIPAA の要件に従って個人健康情報 (PHI) をこの機能に送信できます。他の Braze クラスターで Operator を使用する場合は、HIPAA の対象となる PHI を送信しないでください。
PII の編集
Operator のリクエストパイプラインには、PII を自動で編集 (削除) するレイヤーはありません。データは完全に未加工のまま送信され、OpenAI に送信される前に匿名化されることはありません。アクセスはアクティブなダッシュボードページまたはダッシュボードユーザーの入力に限定されますが、送信前にコンテンツのフィルタリングは適用されません。
OpenAI のデータ保持
Operator を通じて送信されたデータを OpenAI が保持する期間は、ご利用のクラスターによって異なります。
| クラスター | 保持 |
|---|---|
| US-02 (HIPAA 顧客) | ゼロデータ保持 (ZDR)。処理後、データは OpenAI によって保存されません。 |
| その他すべてのクラスター | 不正使用のモニタリングのために 30 日間。これは OpenAI が定める業界標準の保持期間です。 |
モデルのトレーニング
Braze を通じて OpenAI の API に送信されたデータは、OpenAI のモデルのトレーニングや改善には使用されません。これは、Braze と OpenAI の間の契約および OpenAI の API プラットフォームの確約によって規定されています。OpenAI は Braze の再処理者として機能し、すべての個人データは Braze とそのクライアントの間の DPA の対象となります。
EU データルーティング
EU データルーティングは現在 Operator には実装されておらず、現時点で実装する予定もありません。
PII の露出を最小限に抑える
Operator の使用時に PII の露出を制限するために、次の対策を講じることができます。
- Operator を使用するユーザーに対して「PII の表示」設定を無効にします。ユーザーが PII を表示できない場合、Operator も PII にアクセスできません。
- ユーザープロファイルページで Operator を開かないでください。 ページのコンテンツはスクレイピングされ、OpenAI に送信される各リクエストに含まれます。
- テストの際は、既存のユーザープロファイルを選択するのではなく、カスタムユーザープロファイルを使用してください。これは Operator のデフォルトの動作です。
- Operator のプロンプトに PII を直接入力したり貼り付けたりしないでください。Operator は、ユーザーのプロンプトに含まれる PII をブロックしません。ユーザーがリクエストに PII を手動で入力すると、そのコンテンツは基盤となる言語モデルに送信されます。
- アクションの自動承認を無効にして、Operator がアクセスおよび実行できる内容を管理できるようにします。
- セグメントの作成時や Liquid の記述時に、属性のプレビュー値を表示するよう Operator に依頼しないでください。
ガバナンスとアクセス制御
Operatorへのアクセスを制限する
Operatorへのアクセスは、詳細なユーザー権限によってワークスペースレベルで管理されます。管理者は個々のユーザーに対して「Use BrazeAI Operator」権限を付与または取り消すことができ、許可された担当者だけがこのツールを操作できるようになります。この権限がない場合、Operatorのインターフェイスは表示されず、バックエンドのエンドポイントも保護されたままです。
ヒューマンインザループモデル
デフォルトでは、Operatorは変更を加える前に必ず明示的な承認を求めます。提案された変更は、レビュー用のアクションカードとして表示されます。ユーザーが提案を拒否した場合、変更は行われません。ユーザーが提案を承認すると、ダッシュボードが更新されます。ほとんどの変更は、ユーザーが手動で保存または開始するまで保留されたままですが、キャンペーンの下書きの保存などの保存アクションを承認した場合は、すぐに適用されます。
ユーザーはOperatorのチャットパネルでアクションを自動承認を有効にできます。有効にすると、提案されたアクションが手動レビューなしですぐに実行されます。ただし、一部のアクションは、自動承認がオンになっていても常に追加の確認が必要です。
- キャンペーンを開始する。自動承認がオンでも、確認する人がいない限り、Operatorはキャンペーンをアクティブにしません。
- アイテムの保存、アーカイブ、アーカイブ解除、またはワークスペースレベルの設定の変更。Operatorは変更を行えますが、必ず事前に一時停止して承認を求めます。
- 画像の生成、またはレポート、クエリ、データ同期の実行。これらには使用量に応じたコストが発生する可能性があるため、Operatorは必ず事前に一時停止して承認を求めます。
承認の有無にかかわらずOperatorが実行できないアクションについては、Operatorの制限を参照してください。
ユーザー権限の継承
Operatorは、ログインしているユーザーの権限プロファイルをそのまま継承します。そのため、ユーザーが単独で実行する権限を持たないデータの閲覧や、キャンペーンの変更などのアクションの実行は制限されます。
PIIの表示権限
Operatorの動作に「View PII」権限は必要ありません。これは意図的な仕様です。Operatorはデータストアに直接アクセスできず、独自にデータベースにクエリを実行することもありません。代わりに、認証されたユーザーのセッション認証情報を使用して、ダッシュボードの他の部分と同じバックエンドのエンドポイントにリクエストを送信します。つまり、Operatorはユーザーの既存の権限の範囲内に完全に制限され、ユーザーがまだ見ることのできないものにはアクセスできません。
PIIがOperatorに届く経路は、次の2つだけです。
- ユーザーがプロンプトにPIIを直接入力する。
- ユーザーがOperatorを使用する際に、すでにダッシュボードでPIIを表示している。
ユーザーが「View PII」権限を持っていない場合、OperatorはそのユーザーにPIIを表示できません。なお、Operatorはプロンプトに直接入力された内容をフィルタリングしないことに注意してください。手動で入力されたPIIは、基盤となる言語モデルに送信されます。このリスクを軽減するには、PIIの露出を最小限に抑えるを参照してください。