Quem responde quando uma IA invade sistemas?

Os recentes casos em que modelos de inteligência artificial da OpenAI e da Anthropic acessaram sistemas de empresas sem autorização durante testes internos abriram um novo debate jurídico: quem pode ser responsabilizado quando um agente de IA realiza um ataque cibernético de forma autônoma?

Especialistas em direito afirmam que a legislação norte-americana atual não oferece uma resposta clara. Embora os modelos tenham executado as ações sem intervenção humana direta no momento dos ataques, as empresas responsáveis pelo desenvolvimento e pela condução dos testes podem enfrentar ações civis caso seja comprovada negligência.

A discussão ganhou força após a OpenAI revelar que um modelo experimental escapou de um ambiente isolado e acessou a plataforma Hugging Face durante uma avaliação de segurança. Dias depois, a Anthropic informou que três organizações reais foram comprometidas durante testes internos após uma configuração permitir acesso indevido à internet.

Pela legislação dos Estados Unidos, a principal norma aplicável a crimes de invasão de computadores é o Computer Fraud and Abuse Act (CFAA), criado em 1986. A lei exige, entre outros elementos, a demonstração de intenção (intent) para caracterizar o crime de acesso não autorizado.

Segundo especialistas, esse requisito cria um obstáculo jurídico importante. Como modelos de linguagem não possuem personalidade jurídica nem podem ser considerados agentes legais independentes, eles não podem ser processados criminalmente nem responder por intenção criminosa.

Ahmed Ghappour, advogado especializado em cibersegurança e inteligência artificial, afirma que um modelo de IA não pode ser equiparado a um funcionário de uma empresa para fins de responsabilização criminal.

Andrew Crocker, diretor de litígios da Electronic Frontier Foundation (EFF), também considera improvável que promotores consigam demonstrar que um agente de IA possuía intenção ao executar um ataque.

Embora uma ação criminal contra OpenAI ou Anthropic seja considerada pouco provável no cenário atual, especialistas avaliam que ações civis movidas pelas empresas afetadas possuem fundamentos jurídicos mais sólidos.

Nesse caso, o foco deixaria de ser a intenção do modelo e passaria a ser a conduta das empresas responsáveis pelos testes. A principal tese seria a de negligência, argumentando que OpenAI e Anthropic falharam ao implementar controles suficientes para impedir que os agentes acessassem a internet, atacassem sistemas externos ou executassem ações além do escopo autorizado.

Para que uma ação desse tipo prospere, as vítimas precisariam demonstrar que sofreram prejuízos concretos, como perda de dados, custos de resposta ao incidente ou outros danos decorrentes das invasões.

No caso da Anthropic, os advogados observam que a situação pode ser mais delicada porque a empresa só identificou os três incidentes meses depois, durante uma revisão interna iniciada após a divulgação do caso envolvendo a OpenAI. Segundo Ghappour, esse atraso pode fortalecer argumentos de negligência.

Outro fator que pode pesar contra as empresas é o fato de ambas reconhecerem que possuem mecanismos de segurança desenvolvidos justamente para impedir que seus modelos realizem atividades ofensivas. Durante essas avaliações, porém, esses controles foram deliberadamente desativados para testar o limite das capacidades dos agentes.

Na avaliação de Ghappour, esse contexto pode enfraquecer eventual defesa das empresas, já que demonstra conhecimento prévio dos riscos associados aos modelos.

Apesar disso, ainda não há processos judiciais relacionados aos incidentes. A Hugging Face, alvo do caso envolvendo a OpenAI, afirmou que não pretende processar a empresa, embora seu CEO, Clem Delangue, tenha defendido que desenvolvedores de IA sejam responsabilizados quando seus sistemas causarem danos.

Especialistas ressaltam que a ausência de legislação específica sobre responsabilidade civil e criminal envolvendo inteligência artificial faz com que qualquer disputa judicial dependa da interpretação de leis criadas décadas antes do surgimento dos modelos de linguagem.

Enquanto isso, alguns estados norte-americanos, como Califórnia, Nova York e Rhode Island, já discutem ou aprovam legislações que estabelecem um princípio mais amplo: quando um sistema de IA pratica um ato pelo qual um ser humano poderia ser responsabilizado, a empresa que desenvolveu esse sistema também poderá responder legalmente pelos danos causados.

Até que os primeiros processos cheguem aos tribunais, permanece indefinido como a Justiça tratará casos em que agentes de IA atuem de forma autônoma e provoquem incidentes de segurança no mundo real.