Privacidade e segurança de dados do BrazeAI Operator
O BrazeAI OperatorTM se integra à OpenAI para oferecer assistência com tecnologia de IA. Este artigo explica como o Operator lida com dados, quais informações são compartilhadas com a OpenAI e como minimizar a exposição de IPI e controlar o acesso.
Como o Operator acessa os dados
O acesso do Operator aos dados de clientes é estritamente orientado por eventos e limitado a cada invocação, sem persistência. Cada mensagem do usuário ou evento de navegação com o Operator aberto dispara uma solicitação HTTP independente para a OpenAI. Não existe conexão permanente nem feed de dados persistente.
A OpenAI não tem acesso direto aos armazenamentos de dados da Braze nem à tabela de usuários completa. O LLM recebe apenas a carga útil específica associada à solicitação ativa.
Quais dados são incluídos em cada solicitação
Cada carga útil de solicitação enviada à OpenAI pode incluir o seguinte:
- Metadados do sistema: Prompts de sistema criados pela Braze e esquemas de ferramentas (definições das ferramentas que o LLM pode invocar).
- Mensagem do usuário do dashboard: O texto digitado pelo usuário do dashboard.
- Saídas de ferramentas: Resultados de pesquisa com nomes, IDs e dados relacionados.
- Conteúdo extraído da página: Conteúdo da página ativa do dashboard, truncado em aproximadamente 4.000 caracteres.
- Strings de contexto da página: Strings contextuais da página ativa do dashboard.
Subprocessadores de dados
Provedores de modelos como subprocessadores ou provedores terceirizados
Quando você usa uma integração com um provedor de LLM oferecida pela Braze por meio dos Serviços Braze (“LLM fornecido pela Braze”), os provedores desse LLM atuam como Subprocessadores da Braze. Isso está sujeito aos termos do Adendo de Processamento de Dados (DPA) entre você e a Braze. O BrazeAI OperatorTM se integra à OpenAI.
Como os dados são usados com a OpenAI
Para gerar resultados de IA por meio de recursos da BrazeAI que utilizam a OpenAI (“Resultado”), a Braze envia determinadas informações (“Entrada”) para a OpenAI. A Entrada consiste em seus prompts, no conteúdo exibido no dashboard e nos dados do espaço de trabalho relevantes para suas consultas. De acordo com os compromissos da plataforma de API da OpenAI, os dados enviados para a API da OpenAI por meio da Braze não são usados para treinar ou aprimorar os modelos da OpenAI. Entre você e a Braze, o Resultado é sua propriedade intelectual. A Braze não reivindicará nenhum direito autoral sobre esse Resultado. A Braze não oferece nenhum tipo de garantia em relação a qualquer conteúdo gerado por IA, incluindo o Resultado.
Conformidade com a HIPAA e retenção de dados
Conformidade com a HIPAA
Se você usa o cluster US-02 da Braze, o Operator é coberto pelo Business Associate Agreement (BAA) da Braze, e informações de saúde pessoal (PHI) podem ser enviadas ao recurso de acordo com os requisitos da HIPAA. Não envie PHI sujeitas à HIPAA ao usar o Operator em outros clusters da Braze.
Redação de PII
Não há uma camada automatizada de redação de PII no pipeline de solicitações do Operator. Os dados são enviados de forma totalmente bruta e não são anonimizados antes da transmissão para a OpenAI. O acesso fica restrito à página ativa do dashboard ou ao que o usuário do dashboard inserir, mas nenhuma filtragem de conteúdo é aplicada antes da transmissão.
Retenção de dados pela OpenAI
O tempo que a OpenAI retém os dados enviados pelo Operator depende do seu cluster:
| Cluster | Retenção |
|---|---|
| US-02 (clientes HIPAA) | Zero Data Retention (ZDR). A OpenAI não armazena os dados após o processamento. |
| Todos os outros clusters | 30 dias para monitoramento de abuso. Esse é um período de retenção padrão do setor, imposto pela OpenAI. |
Treinamento de modelos
Os dados enviados à API da OpenAI por meio da Braze não são usados para treinar ou aprimorar os modelos da OpenAI. Isso é regido por acordos contratuais entre a Braze e a OpenAI e pelos compromissos da plataforma de API da OpenAI. A OpenAI atua como subprocessadora da Braze, e todos os dados pessoais estão sujeitos ao DPA entre a Braze e seus clientes.
Roteamento de dados na UE
No momento, o roteamento de dados na UE não está implementado para o Operator, e não há planos atuais de implementá-lo.
Minimizar a exposição de IPI
Há várias medidas que você pode tomar para limitar a exposição de IPI ao usar o Operator:
- Desative a configuração Visualizar IPI para todos os usuários que usam o Operator. Se um usuário não consegue visualizar IPI, o Operator também não consegue acessá-las.
- Não abra o Operator em uma página de perfil de usuário. O conteúdo da página é extraído e incluído em cada solicitação enviada à OpenAI.
- Ao testar, use um perfil de usuário personalizado em vez de selecionar um existente. Esse é o comportamento padrão do Operator.
- Não digite nem cole IPI diretamente no prompt do Operator. O Operator não bloqueia IPI incluídas nos prompts dos usuários. Se um usuário digitar IPI manualmente em uma solicitação, esse conteúdo será enviado ao modelo de linguagem subjacente.
- Desative a aprovação automática de ações para manter o controle sobre o que o Operator pode acessar e executar.
- Não peça ao Operator para exibir valores de prévia de atributos ao criar um Segment ou escrever Liquid.
Governança e controle de acesso
Restringir o acesso ao Operator
O acesso ao Operator é gerenciado no nível do espaço de trabalho por meio das permissões granulares de usuário. Os administradores podem conceder ou revogar a permissão “Use BrazeAI Operator” para usuários individuais. Assim, apenas pessoas autorizadas conseguem interagir com a ferramenta. Sem essas permissões específicas, a interface do Operator fica totalmente oculta e os endpoints de backend permanecem protegidos.
Modelo com supervisão humana
Por padrão, o Operator exige aprovação explícita antes de fazer qualquer alteração. As modificações propostas aparecem como cartões de ação para revisão. Se o usuário rejeitar uma proposta, nada é alterado. Se o usuário aceitar uma proposta, o dashboard é atualizado. A maioria das alterações fica pendente até que o usuário as salve ou lance manualmente. Porém, aceitar uma ação de salvamento, como salvar o rascunho de uma Campaign, aplica a alteração imediatamente.
Os usuários podem ativar a opção Aprovar ações automaticamente no painel de chat do Operator. Com isso, as ações sugeridas são executadas imediatamente, sem revisão manual. Algumas ações específicas sempre exigem confirmação adicional, mesmo com a aprovação automática ativada:
- Lançar uma Campaign. Mesmo com a aprovação automática ativada, o Operator só ativa a Campaign se alguém estiver presente para confirmar.
- Salvar, arquivar ou desarquivar um item, ou alterar uma configuração no nível do espaço de trabalho. O Operator pode fazer a alteração, mas sempre pausa para pedir aprovação antes.
- Gerar uma imagem ou executar um relatório, uma consulta ou uma sincronização de dados. Essas ações podem ter custo baseado em uso, então o Operator sempre pausa para pedir aprovação antes.
Para ver as ações que o Operator não pode executar de forma alguma, independentemente de aprovação, consulte Limites do Operator.
Herança de permissões do usuário
O Operator herda totalmente o perfil de permissões do usuário conectado. Ele não pode visualizar dados nem executar ações, como modificar uma Campaign, que o usuário não tenha autorização para realizar por conta própria.
Permissão “View PII”
O Operator não precisa da permissão “View PII” para funcionar, e isso é intencional. O Operator não tem acesso direto ao seu armazenamento de dados e não consulta seu banco de dados de forma independente. Em vez disso, ele faz solicitações aos mesmos endpoints de backend que o restante do dashboard, usando as credenciais de sessão do usuário autenticado. Portanto, o Operator fica totalmente limitado às permissões existentes do usuário e não consegue acessar nada que o usuário ainda não possa ver.
As IPI só podem chegar ao Operator de duas formas:
- O usuário digita IPI diretamente em um prompt.
- O usuário já está visualizando IPI no dashboard quando usa o Operator.
Se o usuário não tiver a permissão “View PII”, o Operator não poderá exibir IPI para ele. Lembre-se de que o Operator não filtra o conteúdo digitado diretamente nos prompts. As IPI inseridas manualmente são enviadas ao modelo de linguagem subjacente. Para reduzir esse risco, consulte Minimizar a exposição de IPI.