OpenAI anuncia processamento privado de segurança para clientes com retenção zero de dados

A OpenAI anunciou o Private Safety Processing, um mecanismo desenvolvido para analisar automaticamente interações com seus modelos em busca de riscos de segurança sem comprometer os acordos de Zero Data Retention (ZDR), nos quais os dados dos clientes não são retidos pela empresa.

A novidade é especialmente relevante para organizações que utilizam inteligência artificial com informações corporativas sensíveis e precisam limitar o armazenamento e o acesso humano aos prompts e respostas processados pelos modelos.

Segundo a OpenAI, em implementações com ZDR, os clientes podem controlar sua própria infraestrutura ou optar pelo armazenamento na infraestrutura da empresa, que deverá oferecer também chaves de criptografia controladas pelo cliente.

Nos dois casos, sistemas automatizados podem identificar possíveis usos indevidos e produzir sinais limitados de segurança sem expor os prompts ou respostas subjacentes aos funcionários da OpenAI.

O Private Safety Processing amplia as proteções automatizadas já utilizadas em ambientes compatíveis com ZDR. Enquanto os mecanismos existentes analisam individualmente as interações, a nova tecnologia consegue avaliar padrões existentes entre interações relacionadas sem permitir que funcionários da empresa tenham acesso ao conteúdo retido dos clientes.

Esse ponto pode indicar uma análise mais ampla do contexto das atividades realizadas pelos modelos, potencialmente envolvendo não apenas prompts e respostas, mas também interações com ferramentas e sinais relacionados à rede.

A abordagem cria uma diferença em relação à política atualmente adotada pela Anthropic em alguns de seus modelos mais avançados. Segundo a empresa, clientes comerciais com ZDR que utilizam os modelos cobertos por sua política de segurança estão sujeitos à retenção de prompts e respostas por 30 dias para atividades relacionadas à segurança.

De maneira geral, as duas empresas também possuem políticas de retenção para clientes comerciais fora dessas condições específicas. A Anthropic informa que entradas e saídas da API são normalmente excluídas de seus sistemas em até 30 dias, com algumas exceções.

No ChatGPT Business, administradores podem controlar por quanto tempo os dados permanecem armazenados. Conversas excluídas ou não salvas são removidas dos sistemas da OpenAI em até 30 dias, salvo quando uma retenção maior for exigida por lei ou considerada necessária para proteger os serviços ou terceiros. Uma política semelhante de 30 dias é aplicada à API na maioria dos casos.

Outra diferença está na possibilidade de revisão humana. A Anthropic informa que, por padrão, seus funcionários não podem ler conversas retidas, mas conteúdos sinalizados por sistemas automatizados de segurança podem passar por revisão humana através de um processo de acesso controlado.

No modelo apresentado pela OpenAI para o Private Safety Processing, a intervenção humana é mais restrita. A empresa aponta como exceção situações envolvendo a detecção de material relacionado à exploração sexual infantil.

A OpenAI afirma que divulgará mais detalhes técnicos sobre o funcionamento do Private Safety Processing no próximo mês. Até lá, aspectos específicos sobre a arquitetura e as proteções utilizadas pelo mecanismo ainda não foram detalhados.

A preocupação com a privacidade no processamento de IA também aparece em iniciativas de outras grandes empresas de tecnologia. Apple, Google, Nvidia e Meta vêm desenvolvendo mecanismos destinados a proteger informações durante cargas de trabalho de inteligência artificial, enquanto a execução local de modelos também cresce como alternativa para organizações que não desejam enviar determinados dados para provedores externos.

Ainda assim, mecanismos de processamento privado não eliminam todos os riscos. Matthew Green, professor associado de ciência da computação da Universidade Johns Hopkins, observa que agentes de IA conectados a ferramentas podem acessar informações sensíveis e executar ações externas. Nesse cenário, proteger apenas a inferência não necessariamente protege todo o fluxo de dados utilizado pelo agente.