Privacidad y seguridad de datos para BrazeAI Operator
BrazeAI OperatorTM se integra con OpenAI para proporcionar asistencia impulsada por IA. Este artículo explica cómo Operator gestiona los datos, qué información se comparte con OpenAI y cómo minimizar la exposición de PII y controlar el acceso.
Cómo accede Operator a los datos
El acceso de Operator a los datos de clientes está estrictamente basado en eventos y limitado a cada invocación; no es persistente. Cada mensaje de usuario o evento de navegación que se produce mientras Operator está abierto desencadena una solicitud HTTP independiente a OpenAI. No existe una conexión permanente ni una fuente de datos persistente.
OpenAI no tiene acceso directo a los almacenes de datos de Braze ni a la tabla de usuarios completa. El LLM solo recibe la carga útil específica asociada a la solicitud activa.
Qué datos se incluyen en cada solicitud
Cada carga útil de solicitud enviada a OpenAI puede incluir lo siguiente:
- Metadatos del sistema: Instrucciones del sistema escritas por Braze y esquemas de herramientas (definiciones de las herramientas que el LLM puede invocar).
- Mensaje del usuario del panel: La entrada escrita por el usuario del panel.
- Resultados de herramientas: Resultados de búsqueda que contienen nombres, ID y datos relacionados.
- Contenido extraído de la página: Contenido de la página activa del panel, truncado a aproximadamente 4000 caracteres.
- Cadenas de contexto de la página: Cadenas contextuales de la página activa del panel.
Subencargados del tratamiento de datos
Proveedores de modelos como subencargados del tratamiento o proveedores externos
Cuando utilizas una integración con un proveedor de LLM facilitada por Braze a través de los Servicios de Braze (“LLM proporcionado por Braze”), los proveedores de dicho LLM proporcionado por Braze actúan como Subencargados del tratamiento de Braze, sujetos a los términos del Anexo de Tratamiento de Datos (DPA) entre tú y Braze. BrazeAI OperatorTM se integra con OpenAI.
Cómo se usan los datos con OpenAI
Para generar resultados de IA mediante las características de BrazeAI que aprovechan OpenAI (“Resultados”), Braze enviará cierta información (“Entrada”) a OpenAI. La Entrada consiste en tus instrucciones, el contenido que se muestra en el panel y los datos del espacio de trabajo relevantes para tus consultas. Según los compromisos de la plataforma API de OpenAI, los datos enviados a la API de OpenAI a través de Braze no se utilizan para entrenar ni mejorar los modelos de OpenAI. Entre tú y Braze, los Resultados son de tu propiedad intelectual. Braze no reclamará la titularidad de los derechos de autor sobre dichos Resultados. Braze no ofrece ninguna garantía de ningún tipo con respecto a ningún contenido generado por IA, incluidos los Resultados.
Cumplimiento de HIPAA y retención de datos
Cumplimiento de HIPAA
Si utilizas el clúster US-02 de Braze, Operator está cubierto por el Acuerdo de Asociado Comercial (BAA) de Braze, y puedes enviar Información Sanitaria Personal (PHI) a esta característica de acuerdo con los requisitos de HIPAA. No envíes PHI sujeta a HIPAA cuando utilices Operator en otros clústeres de Braze.
Redacción de PII
No existe una capa automatizada de redacción de PII en el flujo de solicitudes de Operator. Los datos se envían completamente sin procesar y no se anonimizan antes de su transmisión a OpenAI. El acceso se limita a la página activa del panel o a la información introducida por el usuario del panel, pero no se aplica ningún filtrado de contenido antes de la transmisión.
Retención de datos de OpenAI
El tiempo durante el que OpenAI retiene los datos enviados a través de Operator depende de tu clúster:
| Clúster | Retención |
|---|---|
| US-02 (clientes de HIPAA) | Retención de datos cero (ZDR). OpenAI no almacena los datos después de procesarlos. |
| Todos los demás clústeres | 30 días para la supervisión de abusos. Se trata de un periodo de retención estándar del sector impuesto por OpenAI. |
Entrenamiento de modelos
Los datos enviados a la API de OpenAI a través de Braze no se utilizan para entrenar ni mejorar los modelos de OpenAI. Esto se rige por los acuerdos contractuales entre Braze y OpenAI y por los compromisos de la plataforma de API de OpenAI. OpenAI actúa como subencargado del tratamiento de Braze, y todos los Datos Personales están sujetos al DPA entre Braze y sus clientes.
Enrutamiento de datos en la UE
El enrutamiento de datos en la UE no está implementado actualmente para Operator, y no hay planes para implementarlo.
Minimiza la exposición de PII
Hay varios pasos que puedes seguir para limitar la exposición de PII al usar Operator:
- Desactiva el ajuste Ver PII para cualquier usuario que use Operator. Si un usuario no puede ver PII, Operator tampoco puede acceder a ella.
- No abras Operator en una página de perfil de usuario. El contenido de la página se extrae y se incluye en cada solicitud enviada a OpenAI.
- Cuando hagas pruebas, usa un perfil de usuario personalizado en lugar de seleccionar uno existente. Este es el comportamiento predeterminado de Operator.
- No escribas ni pegues PII directamente en la indicación de Operator. Operator no bloquea la PII incluida en las indicaciones de los usuarios. Si un usuario escribe manualmente PII en una solicitud, ese contenido se envía al modelo de lenguaje subyacente.
- Desactiva la aprobación automática de acciones para mantener el control sobre lo que Operator puede acceder y ejecutar.
- No pidas a Operator que muestre valores de vista previa de los atributos al crear un Segment o escribir Liquid.
Gobernanza y control de acceso
Restringir el acceso a Operator
El acceso a Operator se gestiona a nivel de espacio de trabajo mediante los permisos granulares de usuario. Los administradores pueden conceder o revocar el permiso “Use BrazeAI Operator” a usuarios individuales, de modo que solo el personal autorizado pueda interactuar con la herramienta. Sin estos permisos específicos, la interfaz de Operator se oculta por completo y los endpoints del backend permanecen protegidos.
Modelo con intervención humana
De forma predeterminada, Operator requiere una aprobación explícita antes de hacer cualquier cambio. Las modificaciones propuestas se presentan como tarjetas de acción para que las revises. Si un usuario rechaza una propuesta, no se produce ningún cambio. Si un usuario acepta una propuesta, el panel se actualiza. La mayoría de los cambios quedan pendientes hasta que el usuario los guarda o los lanza manualmente, pero aceptar una acción de guardado, como guardar un borrador de Campaign, se aplica de inmediato.
Los usuarios pueden habilitar Aprobar acciones automáticamente en el panel de chat de Operator, lo que hace que las acciones sugeridas se ejecuten de inmediato sin revisión manual. Algunas acciones específicas siempre requieren una confirmación adicional, incluso con la aprobación automática activada:
- Lanzar una Campaign. Incluso con la aprobación automática activada, Operator no la activará a menos que haya alguien para confirmarlo.
- Guardar, archivar o desarchivar un elemento, o cambiar una configuración a nivel de espacio de trabajo. Operator puede hacer el cambio, pero siempre se detiene primero para pedir aprobación.
- Generar una imagen o ejecutar un informe, una consulta o una sincronización de datos. Estas acciones pueden tener un coste basado en el uso, por lo que Operator siempre se detiene primero para pedir aprobación.
Para las acciones que Operator no puede realizar en absoluto, independientemente de la aprobación, consulta Límites de Operator.
Herencia de permisos de usuario
Operator hereda por completo el perfil de permisos del usuario que ha iniciado sesión. No puede ver datos ni ejecutar acciones, como modificar Campaigns, que el usuario no esté ya autorizado a realizar por su cuenta.
Permiso para ver PII
Operator no necesita el permiso “View PII” para funcionar, y esto es intencionado. Operator no tiene acceso directo a tu almacén de datos y no consulta tu base de datos de forma independiente. En su lugar, hace solicitudes a los mismos endpoints del backend que el resto del panel, utilizando las credenciales de sesión del usuario autenticado. Esto significa que Operator está totalmente limitado por los permisos existentes del usuario y no puede acceder a nada que el usuario no pueda ver ya.
La PII solo puede llegar a Operator de dos maneras:
- El usuario escribe PII directamente en una indicación.
- El usuario ya está viendo PII en el panel cuando usa Operator.
Si un usuario no tiene el permiso “View PII”, Operator no puede mostrarle PII. Ten en cuenta que Operator no filtra el contenido escrito directamente en las indicaciones: la PII introducida manualmente se envía al modelo de lenguaje subyacente. Para reducir este riesgo, consulta Minimizar la exposición de PII.