'Apostando com nossas vidas': Pesquisador deixa Anthropic e alerta para riscos de IA capaz de se autoaperfeiçoar
Jacob Coxon, pesquisador que trabalhou nos últimos três anos em pesquisas de pré-treinamento de modelos de inteligência artificial na OpenAI e na Anthropic, deixou a empresa e fez um alerta público sobre os riscos da corrida pelo desenvolvimento de sistemas capazes de melhorar a si próprios. Segundo ele, laboratórios de IA estão avançando em direção à superinteligência sem garantias suficientes de que esses sistemas permanecerão sob controle humano.
Coxon afirma que sua decisão está relacionada principalmente ao chamado “autoaperfeiçoamento recursivo”. Nesse cenário, um sistema de IA passa a contribuir diretamente para a pesquisa e o desenvolvimento de modelos sucessores mais avançados, que, por sua vez, poderiam acelerar ainda mais a criação da próxima geração. O temor é que esse ciclo aumente as capacidades dos sistemas em uma velocidade superior à capacidade humana de avaliá-los, controlá-los ou interrompê-los.
O pesquisador criticou tanto a OpenAI quanto a Anthropic e argumentou que a competição entre os principais laboratórios cria incentivos para continuar avançando mesmo diante de incertezas sobre segurança. Na avaliação de Coxon, empresas podem considerar arriscado reduzir o ritmo individualmente caso concorrentes continuem desenvolvendo modelos cada vez mais poderosos.
As preocupações foram apoiadas publicamente por Evan Hubinger, que lidera pesquisas de alinhamento de IA na Anthropic. Hubinger afirmou considerar superior a 10% a probabilidade de sistemas avançados de inteligência artificial provocarem a extinção humana na próxima década e reconheceu que ainda não existe uma solução definitiva para garantir o alinhamento de uma eventual superinteligência. A estimativa representa uma avaliação pessoal de risco, e não uma previsão de que esse cenário necessariamente ocorrerá.
O ponto central do debate é diferente dos riscos apresentados pelos atuais chatbots. Sistemas com maior autonomia poderiam, em tese, operar ferramentas, escrever código, realizar pesquisas, acessar recursos computacionais e executar tarefas complexas com menor supervisão. Em um cenário de autoaperfeiçoamento, essas capacidades poderiam ser usadas também para acelerar o próprio desenvolvimento da IA, aumentando a dificuldade de estabelecer mecanismos eficazes de controle.
A própria Anthropic reconhece formalmente alguns desses riscos. Em seu relatório de riscos publicado em agosto de 2026, a empresa avalia cenários nos quais modelos com acesso a recursos importantes poderiam explorar ou manipular sistemas organizacionais de forma autônoma. Para os modelos analisados atualmente, porém, a companhia classifica como baixo o risco associado a desalinhamento em ambientes de alta criticidade, embora essa classificação tenha aumentado em relação à avaliação anterior de “muito baixo”.
O mesmo relatório também analisa o uso de IA para automatizar pesquisa e desenvolvimento. A Anthropic afirma que seus sistemas já aceleram atividades internas de engenharia e pesquisa, mas avalia que os modelos atuais ainda não atingiram os limites estabelecidos por sua política de segurança para esse tipo de ameaça. A empresa, entretanto, relata sinais iniciais de aceleração e diz ter menos confiança nessa avaliação do que anteriormente.
A discussão também chegou aos governos. Nos Estados Unidos, o senador Bernie Sanders e o deputado Greg Casar anunciaram o Ban Artificial Superintelligence Act, proposta que busca proibir o desenvolvimento e a implantação de inteligência artificial superinteligente e interromper temporariamente determinados avanços até que sejam estabelecidas regras federais de segurança. A iniciativa também prevê esforços para acordos internacionais sobre o tema.
No Reino Unido, parlamentares também começaram a discutir propostas direcionadas à superinteligência e ao autoaperfeiçoamento de sistemas de IA. O movimento amplia um debate que até recentemente estava concentrado principalmente entre laboratórios, pesquisadores de alinhamento e organizações especializadas em segurança de inteligência artificial.
O alerta de Coxon não significa que os sistemas atuais estejam próximos de provocar os cenários extremos descritos. A própria avaliação técnica publicada pela Anthropic continua classificando como baixos vários dos riscos analisados nos modelos existentes. A controvérsia está concentrada no ritmo de evolução das capacidades e na possibilidade de futuros sistemas avançarem mais rapidamente do que as técnicas desenvolvidas para monitorá-los, restringi-los e mantê-los alinhados aos objetivos humanos
