Otimismo com inteligência artificial dá lugar a alertas sobre segurança e controle

Executivos e defensores da inteligência artificial que até recentemente destacavam principalmente o potencial transformador da tecnologia passaram a reconhecer com mais frequência os riscos associados ao avanço acelerado dos modelos. Declarações recentes de Sam Altman, Dario Amodei e Bill Gates indicam uma mudança de tom no debate sobre segurança, alinhamento e consequências sociais da IA.

No início do ano, o CEO da Anthropic, Dario Amodei, chegou a afirmar que a IA poderia tornar possível a cura da maioria das doenças humanas dentro de cinco a dez anos. Sam Altman, CEO da OpenAI, também projetou que a tecnologia poderia provocar uma expansão sem precedentes na criação de pequenos negócios.

As previsões otimistas, porém, agora dividem espaço com alertas. Altman reconheceu recentemente que as capacidades dos modelos estavam avançando mais rapidamente do que o desenvolvimento de mecanismos de segurança e alinhamento. Amodei, por sua vez, manifestou preocupação com uma possível assimetria entre ataque e defesa na biologia, caso modelos suficientemente avançados facilitem o desenvolvimento de ameaças biológicas.

Bill Gates também endureceu sua avaliação. Depois de se definir como otimista em relação à IA no início do ano, passou a alertar para riscos relacionados à desigualdade e afirmou que as políticas atuais podem levar a resultados negativos caso governos, especialistas e comunidades não se preparem adequadamente.

Segundo Gates, a inteligência artificial ainda pode produzir benefícios amplos, mas isso dependerá da adoção das medidas corretas. Entre suas preocupações estão a eliminação permanente de determinados empregos, a possibilidade de a tecnologia ampliar a capacidade de indivíduos provocarem danos e os efeitos sobre o desenvolvimento de crianças e as relações humanas.

As empresas responsáveis pelos principais modelos já adotam algumas medidas de proteção. A OpenAI, por exemplo, apresentou o ChatGPT for Teens, voltado à proteção de adolescentes contra conteúdos relacionados a suicídio, automutilação e interações sexuais. A efetividade de mecanismos desse tipo, entretanto, continua sendo objeto de discussão.

O International Scientific Report on the Safety of Advanced AI destaca que diferentes abordagens técnicas podem reduzir riscos, mas atualmente não existe método conhecido capaz de oferecer garantias robustas contra os danos associados a sistemas de IA de uso geral.

A preocupação aumenta com a evolução dos agentes de IA. Diferentemente de chatbots que apenas produzem respostas, sistemas agentes podem utilizar navegadores, repositórios de código, bancos de dados e outras ferramentas para executar sequências de ações com níveis crescentes de autonomia.

O International AI Safety Report de 2026 alertou que esses sistemas apresentam riscos adicionais justamente porque podem atuar com menor intervenção humana. Entre os possíveis usos indevidos estão fraude, desinformação, violações de privacidade, decisões enviesadas e ataques contra outros modelos.

O debate também chegou ao governo dos Estados Unidos. A Casa Branca convidou OpenAI, Anthropic, Google e Meta para discutir testes governamentais voluntários de segurança nos modelos mais avançados antes de seus lançamentos. A proposta coloca novamente em discussão qual deve ser o papel dos governos na supervisão de tecnologias que evoluem mais rapidamente do que os mecanismos regulatórios.

Paralelamente, surgem iniciativas conduzidas pela própria indústria. Nvidia e a Open Secure AI Alliance, apoiada pela Linux Foundation, propuseram o Shared AI Findings Exchange

(SAFE), estrutura destinada ao compartilhamento confidencial de incidentes e situações de risco envolvendo agentes de inteligência artificial. A iniciativa, entretanto, ainda está em fase de consulta e não representa uma política operacional estabelecida.

Durante anos, o debate sobre segurança em IA foi dividido entre preocupações imediatas — como discriminação, vigilância, perda de empregos e desinformação — e cenários de longo prazo envolvendo sistemas avançados difíceis de controlar. À medida que modelos ganham autonomia e capacidade de executar ações no mundo digital, essa separação começa a diminuir.

A discussão passa, portanto, a envolver não apenas a velocidade com que a inteligência artificial pode transformar a sociedade, mas se empresas, governos e instituições conseguirão desenvolver mecanismos técnicos de segurança, proteções econômicas e estruturas regulatórias no mesmo ritmo da evolução dos modelos.