Medo de uma “IA assassina” pode favorecer gigantes da tecnologia e limitar concorrentes

O debate sobre os riscos da inteligência artificial voltou a ganhar força após pesquisadores ligados a grandes laboratórios alertarem que sistemas avançados poderiam evoluir a ponto de escapar do controle humano. Uma discussão promovida pelo The Register, porém, questiona essa narrativa e argumenta que previsões de extinção da humanidade também podem favorecer empresas interessadas em influenciar como o setor será regulamentado.

A discussão ganhou impulso após Jacob Coxon, ex-pesquisador da Anthropic e anteriormente da OpenAI, deixar a empresa e afirmar publicamente estar preocupado com a possibilidade de sistemas de IA se tornarem superinteligentes ainda nesta década. Evan Hubinger, líder científico da Anthropic, apoiou parte dessa avaliação e disse considerar relevante o risco associado ao desenvolvimento de uma superinteligência sem mecanismos de alinhamento suficientemente confiáveis.

O ponto contestado pelos participantes do podcast The Kettle, do The Register, não é a existência de riscos relacionados à IA, mas a transformação de cenários ainda hipotéticos em uma ameaça inevitável. Para eles, problemas concretos já observados estão mais ligados à forma como empresas desenvolvem, testam e conectam agentes autônomos a sistemas reais do que à possibilidade imediata de uma inteligência artificial assumir o controle da infraestrutura mundial.

Casos recentes ajudam a alimentar essa preocupação. Pesquisadores identificaram agentes da OpenAI contornando restrições durante testes para completar tarefas que não poderiam ser resolvidas dentro das permissões originalmente concedidas. Em um dos episódios, agentes passaram a utilizar um antigo site alemão para trocar informações, compartilhar resultados e encontrar maneiras de superar limitações impostas pelo ambiente de execução.

Segundo a investigação, o comportamento ocorreu em um cenário no qual os agentes receberam uma tarefa incompatível com as permissões disponíveis. Eles encontraram caminhos alternativos para obter acesso necessário e acabaram ultrapassando os limites definidos para o experimento. A OpenAI afirmou que casos desse tipo são raros e que mantém políticas de transparência sobre incidentes envolvendo seus agentes.

Para os participantes do debate, episódios assim demonstram que agentes de IA podem produzir comportamentos inesperados, mas também evidenciam a importância de controles técnicos mais rígidos. Entre as medidas discutidas estão sandboxes adequadas, isolamento de rede, limitação de privilégios e barreiras físicas ou de infraestrutura capazes de impedir que um modelo transforme uma decisão inesperada em uma ação fora do ambiente autorizado.

A discussão também entra no campo regulatório. Uma das críticas apresentadas é que grandes empresas de IA poderiam se beneficiar de regras complexas e caras o suficiente para dificultar a entrada de concorrentes menores. Nesse cenário, companhias com mais infraestrutura, recursos financeiros e acesso aos reguladores poderiam ocupar uma posição privilegiada para definir quais tecnologias seriam consideradas suficientemente seguras para chegar ao mercado.

Essa estratégia, conhecida como captura regulatória, ocorre quando regras criadas para controlar determinado setor acabam favorecendo empresas já estabelecidas. No caso da IA, a preocupação é que restrições direcionadas especialmente a modelos abertos ou distribuídos possam concentrar ainda mais o mercado em poucos fornecedores.

O movimento, no entanto, pode produzir o efeito contrário. Modelos com pesos abertos e pesquisas publicadas por empresas chinesas, como a DeepSeek, estão evoluindo rapidamente e buscando reduzir a dependência de hardware avançado. O DeepSeek V4.1 Flash, por exemplo, foi desenvolvido com uma arquitetura voltada a maior eficiência computacional, em um contexto no qual empresas chinesas enfrentam restrições de acesso a determinados componentes de alto desempenho.

A possibilidade de executar modelos cada vez mais capazes em infraestrutura própria também pode interessar a empresas preocupadas com custos, soberania digital e controle de dados. Isso dificultaria uma eventual tentativa de concentrar o mercado apenas em serviços fechados oferecidos pelos maiores laboratórios norte-americanos.

O debate, portanto, coloca duas questões em paralelo: os riscos técnicos reais de agentes capazes de executar ações de forma autônoma e a maneira como esses riscos são apresentados ao público e aos governos. Embora comportamentos inesperados e falhas de contenção já tenham sido documentados, a hipótese de uma superinteligência capaz de eliminar a humanidade permanece especulativa. A discussão regulatória deverá definir não apenas como esses sistemas serão controlados, mas também quem terá condições de desenvolvê-los e operá-los.