Privacidad y seguridad de datos para BrazeAI Operator
BrazeAI OperatorTM se integra con OpenAI para proporcionar asistencia impulsada por IA. Este artículo cubre cómo Operator gestiona los datos, qué información se comparte con OpenAI y cómo minimizar la exposición de PII y controlar el acceso.
Cómo Operator accede a los datos
El acceso de Operator a los datos de clientes es estrictamente basado en eventos y con alcance limitado a la invocación, no persistente. Cada mensaje de usuario o evento de navegación mientras Operator está abierto desencadena una solicitud HTTP independiente a OpenAI. No existe una conexión permanente ni una fuente de datos persistente.
OpenAI no tiene acceso directo a los almacenes de datos de Braze ni a la tabla de usuarios completa. El LLM recibe únicamente la carga útil específica asociada a la solicitud activa.
Qué datos se incluyen en cada solicitud
Cada carga útil de solicitud enviada a OpenAI puede incluir lo siguiente:
- Metadatos del sistema: indicaciones del sistema creadas por Braze y esquemas de herramientas (definiciones de herramientas que el LLM puede invocar).
- Mensaje del usuario del panel: la entrada de texto del usuario del panel.
- Resultados de herramientas: resultados de búsqueda que contienen nombres, ID y datos relacionados.
- Contenido extraído de la página: contenido de la página activa del panel, truncado a aproximadamente 4000 caracteres.
- Cadenas de contexto de la página: cadenas contextuales de la página activa del panel.
Subprocesadores de datos
Proveedores de modelos como subprocesadores o proveedores externos
Cuando utilizas una integración con un proveedor de LLM proporcionado por Braze a través de los servicios de Braze (“LLM proporcionado por Braze”), los proveedores de dicho LLM proporcionado por Braze actúan como subprocesadores de Braze, sujetos a los términos del Anexo de Procesamiento de Datos (asesor sobre protección de datos) entre tú y Braze. BrazeAI OperatorTM se integra con OpenAI.
Cómo se utilizan los datos con OpenAI
Para generar resultados de IA a través de las características de BrazeAI que aprovechan OpenAI (“Output”), Braze enviará cierta información (“Input”) a OpenAI. El Input consiste en tus prompts, el contenido mostrado en el panel y los datos del espacio de trabajo relevantes para tus consultas. Según los compromisos de la plataforma API de OpenAI, los datos enviados a la API de OpenAI a través de Braze no se utilizan para entrenar ni mejorar los modelos de OpenAI. Entre tú y Braze, el Output es tu propiedad intelectual. Braze no reclamará ningún derecho de propiedad intelectual sobre dicho Output. Braze no ofrece ninguna garantía de ningún tipo con respecto a cualquier contenido generado por IA, incluido el Output.
Cumplimiento de HIPAA y retención de datos
Cumplimiento de HIPAA
Si utilizas el clúster US-02 de Braze, Operator está cubierto por el Acuerdo de Socio Comercial (BAA) de Braze, y la Información de Salud Personal (PHI) puede enviarse a la característica de acuerdo con los requisitos de HIPAA. No envíes PHI sujeta a HIPAA cuando utilices Operator en otros clústeres de Braze.
Eliminación de PII
No existe una capa automatizada de eliminación de PII en el flujo de solicitudes de Operator. Los datos se envían completamente en bruto y no se anonimizan antes de la transmisión a OpenAI. El acceso está limitado a la página activa del panel o a la entrada del usuario del panel, pero no se aplica ningún filtrado de contenido antes de la transmisión.
Retención de datos de OpenAI
El tiempo que OpenAI retiene los datos enviados a través de Operator depende de tu clúster:
| Clúster | Retención |
|---|---|
| US-02 (clientes HIPAA) | Retención de datos cero (ZDR). OpenAI no almacena los datos después del procesamiento. |
| Todos los demás clústeres | 30 días para monitoreo de abusos. Este es un período de retención estándar de la industria impuesto por OpenAI. |
Entrenamiento de modelos
Los datos enviados a la API de OpenAI a través de Braze no se utilizan para entrenar ni mejorar los modelos de OpenAI. Esto está regulado por acuerdos contractuales entre Braze y OpenAI, así como por los compromisos de la plataforma de API de OpenAI. OpenAI actúa como subprocesador de Braze, y todos los datos personales están sujetos al asesor sobre protección de datos entre Braze y sus clientes.
Enrutamiento de datos en la UE
El enrutamiento de datos en la UE no está implementado actualmente para Operator, y no hay planes actuales para implementarlo.
Minimizar la exposición de PII
Hay varios pasos que puedes seguir para limitar la exposición de PII al usar Operator:
- Desactiva la configuración Ver PII para cualquier usuario que utilice Operator. Si un usuario no puede ver PII, Operator tampoco puede acceder a ella.
- No abras Operator en una página de perfil de usuario. El contenido de la página se extrae y se incluye en cada solicitud enviada a OpenAI.
- Al hacer pruebas, usa un perfil de usuario personalizado en lugar de seleccionar uno existente. Este es el comportamiento predeterminado de Operator.
- No escribas ni pegues PII directamente en el prompt de Operator. Operator no bloquea la PII incluida en los prompts de los usuarios. Si un usuario escribe manualmente PII en una solicitud, ese contenido se envía al modelo de lenguaje subyacente.
- Desactiva la aprobación automática de acciones para mantener el control sobre lo que Operator puede acceder y ejecutar.
- No le pidas a Operator que muestre valores de vista previa de atributos al crear un Segment o escribir Liquid.
Gobernanza y control de acceso
Restringir el acceso a Operator
El acceso a Operator se gestiona a nivel de espacio de trabajo mediante permisos de usuario granulares. Los administradores pueden conceder o revocar el permiso “Use BrazeAI Operator” para usuarios individuales, asegurando que solo el personal autorizado pueda interactuar con la herramienta. Sin estos permisos específicos, la interfaz de Operator se suprime completamente y los endpoints del backend permanecen protegidos.
Modelo de supervisión humana
De forma predeterminada, Operator requiere aprobación explícita antes de realizar cualquier cambio. Las modificaciones propuestas se presentan como tarjetas de acción para su revisión. Si un usuario rechaza una propuesta, no se produce ningún cambio. Si un usuario acepta una propuesta, el panel se actualiza. La mayoría de los cambios permanecen pendientes hasta que el usuario los guarda o lanza manualmente, pero aceptar una acción de guardar, como guardar un borrador de Campaign, se aplica de inmediato.
Los usuarios pueden habilitar Aprobación automática de acciones en el panel de chat de Operator, lo que hace que las acciones sugeridas se ejecuten inmediatamente sin revisión manual. Algunas acciones específicas siempre requieren confirmación adicional, incluso con la aprobación automática activada:
- Lanzar una Campaign. Incluso con la aprobación automática activada, Operator no la activará a menos que alguien esté presente para confirmar.
- Guardar, archivar o desarchivar un elemento, o cambiar una configuración a nivel de espacio de trabajo. Operator puede realizar el cambio, pero siempre se detiene para solicitar aprobación primero.
- Generar una imagen, o ejecutar un informe, una consulta o una sincronización de datos. Estas acciones pueden tener un costo basado en el uso, por lo que Operator siempre se detiene para solicitar aprobación primero.
Para las acciones que Operator no puede realizar en absoluto, independientemente de la aprobación, consulta los límites de Operator.
Herencia de permisos de usuario
Operator hereda completamente el perfil de permisos del usuario con sesión iniciada. Tiene restringido ver datos o ejecutar acciones, como modificaciones de Campaign, que el usuario no está ya autorizado a realizar de forma independiente.
Permiso de ver PII
Operator no requiere el permiso “View PII” para funcionar, y esto es intencional. Operator no tiene acceso directo a tu almacén de datos ni consulta tu base de datos de forma independiente. En su lugar, realiza solicitudes a los mismos endpoints del backend que el resto del panel, utilizando las credenciales de sesión del usuario autenticado. Esto significa que Operator está completamente limitado por los permisos existentes del usuario y no puede acceder a nada que el usuario no pueda ver ya.
La PII solo puede llegar a Operator de dos formas:
- El usuario escribe PII directamente en un prompt.
- El usuario ya está viendo PII en el panel cuando utiliza Operator.
Si un usuario no tiene el permiso “View PII”, Operator no puede mostrarle PII. Ten en cuenta que Operator no filtra el contenido escrito directamente en los prompts: la PII introducida manualmente se envía al modelo de lenguaje subyacente. Para reducir este riesgo, consulta Minimizar la exposición de PII.
Auditar el uso del equipo
Descarga el informe de eventos de seguridad de Braze para monitorear el uso del equipo. El evento “Requested BrazeAI Operator Response” proporciona un registro de auditoría completo, que te permite revisar las entradas exactas proporcionadas a Operator.