Anthropic identifica uso do Claude em pesquisas que podem contribuir para armas biológicas

A Anthropic identificou cinco casos em que seus modelos Claude foram utilizados em pesquisas biológicas com potencial de contribuir para o desenvolvimento de armas. As atividades envolveram estudos sobre chikungunya, influenza aviária, orthopoxvírus, peptídeos de veneno e toxinas, mas a empresa afirma que não conseguiu determinar se os pesquisadores envolvidos tinham intenção de transformar o trabalho em armamento.

Os episódios foram detalhados em um relatório de inteligência de ameaças da empresa e fazem parte de um conjunto mais amplo de abusos investigados entre dezembro de 2025 e agosto de 2026. Em alguns casos, usuários teriam contornado restrições regionais ou adotado medidas para ocultar a verdadeira natureza e origem das atividades. A Anthropic bloqueou determinadas solicitações e posteriormente baniu contas relacionadas.

Um dos casos considerados mais preocupantes envolveu uma proposta financiada por um Estado para pesquisas de gain-of-function com chikungunya. Segundo a Anthropic, o trabalho seria destinado a um instituto militar de pesquisa e buscava mutações capazes de tornar o vírus transmitido por mosquitos mais prejudicial. Pesquisas desse tipo, entretanto, possuem natureza de uso dual e também podem contribuir para o desenvolvimento de vacinas e tratamentos.

A investigação identificou ainda o uso de uma plataforma intermediária que encaminhava tráfego por infraestrutura localizada nos Estados Unidos para contornar bloqueios regionais. O serviço também recorria a revendedores do mercado paralelo e contas sintéticas. Quando determinadas solicitações relacionadas à biologia eram recusadas, algumas delas eram direcionadas a modelos com controles menos restritivos.

A Anthropic afirma ter encontrado evidências de que a pesquisa sobre chikungunya avançou além da elaboração inicial da proposta. O Claude posteriormente forneceu assistência editorial a resultados produzidos pelo projeto. Mesmo diante desses indícios, a empresa não classificou a atividade como um programa de armas biológicas, justamente porque não conseguiu estabelecer a intenção dos envolvidos.

Outro caso envolveu semanas de planejamento de experimentos relacionados à influenza aviária. Em uma atividade diferente, o Claude Opus 5 foi utilizado para ajudar na elaboração de uma solicitação de financiamento envolvendo evasão do sistema imunológico por orthopoxvírus. Os nomes dos pesquisadores, instituições e países envolvidos não foram divulgados.

Os episódios também mostram uma mudança importante na avaliação de risco dos modelos mais avançados. Segundo a Anthropic, versões anteriores do Claude estavam bem abaixo do nível necessário para fornecer assistência significativa a usuários sofisticados envolvidos em pesquisas biológicas perigosas. Com os modelos mais recentes, a empresa afirma que já não pode oferecer a mesma garantia, o que levou ao fortalecimento das proteções para consultas relacionadas à biologia de uso dual.

O problema não se limita ao bloqueio de prompts. Uma aplicação que utiliza diferentes provedores de IA pode encaminhar automaticamente uma solicitação recusada para outro modelo com controles menos rígidos. Nesse cenário, as proteções implementadas por um fornecedor podem ser contornadas pela própria arquitetura do serviço utilizado pelo pesquisador.

A análise também destaca a dificuldade de identificar atividades potencialmente perigosas examinando solicitações isoladamente. Conhecimentos sobre vírus, mutações e mecanismos biológicos podem servir tanto para pesquisas médicas legítimas quanto para aumentar a capacidade de um patógeno. Por isso, fatores como repetidas tentativas de contornar bloqueios, localização da conta, roteamento por terceiros e ocultação da origem do usuário podem se tornar indicadores relevantes para sistemas de segurança.

Os casos mostram um dos principais desafios de segurança associados aos modelos de IA mais avançados: conforme sua capacidade científica aumenta, cresce também a necessidade de distinguir pesquisas legítimas de atividades de uso dual potencialmente perigosas, sem assumir intenção maliciosa quando ela não pode ser comprovada.