Agentes autônomos de IA elevam risco de ataques contra infraestrutura crítica

Ataques realizados por agentes autônomos de inteligência artificial contra governos e empresas de energia no início de julho indicam que o uso ofensivo da tecnologia contra infraestrutura crítica deixou de ser apenas uma possibilidade teórica. Especialistas alertam que a combinação entre IA, sistemas industriais vulneráveis e décadas de dívida técnica pode transformar invasões digitais em impactos físicos.

Tom Kellermann, vice-presidente de segurança de IA e pesquisa de ameaças da TrendAI, classificou o cenário como um "perigo claro e presente". Segundo ele, agentes de IA transformados em armas podem, no futuro, atingir mecanismos de segurança de infraestruturas críticas e provocar consequências no mundo físico.

A preocupação também foi destacada por autoridades durante as conferências Black Hat e DEF CON. Brett Leatherman, diretor-assistente da Divisão Cibernética do FBI, apontou instalações de água e esgoto, redes elétricas, mercados de alta frequência e sistemas financeiros entre os ambientes nos quais um comprometimento da integridade pode gerar impactos significativos para comunidades e para a segurança nacional.

Um dos principais sinais dessa mudança ocorreu entre os dias 1º e 4 de julho, quando operadores suspeitos de ligação com a China utilizaram uma estrutura de ataque baseada nos agentes de IA Hermes e OpenClaw contra alvos em Taiwan.

Ao longo de 12 ondas de ataques, o sistema descrito como "quase autônomo" utilizou até oito subagentes, cada um responsável por seus próprios alvos e técnicas. A campanha comprometeu um site governamental, um sistema de e-mail do governo, a agência de segurança nuclear de Taiwan, fornecedores da cadeia de TI e pelo menos sete empresas do setor de energia.

Os agentes identificaram e exploraram vulnerabilidades e configurações incorretas enquanto avançavam pelas redes, obtendo dados sensíveis, credenciais e outros segredos. O episódio demonstrou como sistemas de IA podem automatizar diferentes etapas de uma cadeia de ataque e coordenar ações contra múltiplos alvos.

O cenário preocupa ainda mais devido às fragilidades já existentes em infraestruturas críticas. Nos Estados Unidos, mais de 30 pequenos sistemas de abastecimento de água em Minnesota, além de instalações em quase uma dúzia de outros estados, foram recentemente alvo de ataques cibernéticos.

Não há evidências de que IA tenha sido utilizada nesses ataques. Muitos dos sistemas afetados mantinham controladores lógicos programáveis (PLCs) diretamente expostos à internet e protegidos por senhas padrão ou fracas.

Chris Inglis, ex-diretor nacional de cibersegurança dos Estados Unidos, afirmou que esses incidentes expõem décadas de dívida técnica. Sistemas sem correções, equipamentos em fim de vida e atualizações de segurança adiadas ampliam a superfície de ataque e oferecem mais oportunidades para comprometer ambientes responsáveis por serviços essenciais.

A IA pode tornar a exploração dessas fragilidades mais rápida e acessível. E o risco não está limitado aos modelos mais avançados. Modelos abertos e amplamente disponíveis já demonstram capacidade para encontrar falhas em software e configurações, combinar vulnerabilidades e gerar ações para comprometer sistemas.

Pesquisadores da Universidade de Toronto, por exemplo, utilizaram neste ano um modelo aberto e publicamente disponível para desenvolver um worm que, segundo eles, conseguiu se propagar por uma rede corporativa de testes. O código identificava vulnerabilidades conhecidas e configurações incorretas, gerava ataques e se adaptava para avançar lateralmente e comprometer outras máquinas.

Outra preocupação envolve sistemas de controle industrial (ICS) e tecnologia operacional (OT). Historicamente, ataques sofisticados contra esses ambientes exigem conhecimento especializado sobre equipamentos, protocolos e processos industriais. A IA pode reduzir essa barreira.

John Hultquist, analista-chefe do Google Threat Intelligence Group, afirmou que esse conhecimento técnico, antes restrito a um grupo relativamente pequeno de especialistas, pode se tornar muito mais acessível com agentes capazes de pesquisar e aprender sobre sistemas industriais.

Na avaliação de Hultquist, países como China e Rússia já possuem operadores com capacidade avançada nesse campo, mas ferramentas de IA podem aumentar as capacidades de agentes com menor especialização em OT, incluindo grupos ligados a países como Coreia do Norte e Irã.

Outro sinal dessa evolução surgiu durante a Black Hat, quando pesquisadores da OpenAI apresentaram detalhes de uma avaliação de segurança na qual agentes de IA conseguiram atacar a plataforma Hugging Face. Durante o experimento, agentes solicitaram ajuda a outros agentes, criaram estruturas para troca de mensagens e desenvolveram protocolos próprios de comunicação para coordenar suas atividades.

Michael Dalton, da equipe técnica da OpenAI, afirmou que é esperado que agentes maliciosos passem a implantar, otimizar e transformar coletivos de agentes ofensivos em ferramentas de ataque. Paul Nakasone, ex-diretor da NSA, classificou esse tipo de experimento como um ponto de inflexão para ataques cibernéticos autônomos gerados por IA.

O desafio para os defensores é acompanhar essa evolução. Ryan Whelan, chefe global de Cyber Intelligence da Accenture, avalia que ainda pode levar mais de um ano para surgirem enxames de agentes defensivos autônomos capazes de combater esse tipo de ameaça em escala.

Enquanto isso, sistemas ofensivos podem avançar mais rapidamente porque atacantes não estão sujeitos às mesmas limitações legais, operacionais e éticas impostas às organizações responsáveis pela defesa. Para especialistas, essa diferença pode fazer com que os primeiros usos em escala de agentes cibernéticos autônomos ocorram justamente no lado ofensivo.