Executivo bloqueia ciberataque enquanto passeia com o cachorro com ajuda de agente de IA

Modelos avançados de inteligência artificial demonstraram desempenho muito superior em tarefas ofensivas do que na defesa de ambientes corporativos. Em testes conduzidos pela startup de segurança Corma, quatro modelos conseguiram implantar backdoors persistentes em 85% das execuções, mas detectaram apenas 19% dos ataques quando colocados no papel de defensores.

A diferença é chamada pela empresa de “defense gap”, ou lacuna defensiva, e representa um problema crescente à medida que modelos de IA ganham capacidade para encontrar vulnerabilidades, programar e coordenar ferramentas de forma autônoma em fluxos de ataque com múltiplas etapas.

Para avaliar essa diferença, a Corma testou Claude Opus 4.8, GPT-5.5, Grok 4.3 e DeepSeek V4 como atacantes e defensores em uma empresa simulada e suas redes, construídas para reproduzir de forma próxima um ambiente corporativo com diferentes unidades de negócio.

A missão ofensiva era implantar um backdoor, enquanto o agente defensor precisava identificar a invasão e interrompê-la. Os quatro modelos foram colocados uns contra os outros em todas as combinações possíveis, inclusive contra eles mesmos, com 15 execuções independentes por combinação. Ao todo, foram contabilizados 241 testes.

Os resultados mostraram uma diferença expressiva: atuando ofensivamente, os modelos conseguiram estabelecer um backdoor persistente em 85% das execuções. Quando receberam a responsabilidade de proteger o mesmo ambiente, conseguiram detectar apenas 19% dos ataques.

Segundo Alon Pluda, CEO e fundador da Corma, modelos desenvolvidos por empresas como OpenAI, Anthropic e Google já apresentam capacidades avançadas de programação e linguagem, incluindo identificação e correção de vulnerabilidades e orquestração de ferramentas em processos com várias etapas.

Quando essas capacidades são combinadas com sistemas agênticos, os modelos deixam de funcionar apenas como ferramentas de pesquisa de vulnerabilidades e passam a ter condições de executar diferentes etapas de um ataque de maneira coordenada.

O mesmo avanço, porém, não estaria acontecendo na mesma velocidade na defesa. Uma das explicações apresentadas pela pesquisa está no tipo de informação que precisa ser interpretada durante uma investigação de segurança.

Enquanto tarefas ofensivas podem ter objetivos relativamente claros — explorar uma condição ou fazer determinado ataque funcionar —, a defesa exige encontrar sinais suspeitos em grandes quantidades de logs, eventos, configurações, trilhas de auditoria e informações armazenadas nos sistemas.

Grande parte desse conteúdo consiste em dados estruturados de máquinas, e não em linguagem natural ou código-fonte, dois tipos de informação amplamente presentes no treinamento dos grandes modelos de linguagem. Segundo a pesquisa, os modelos parecem interpretar esses dados defensivos com menor confiabilidade.

Além disso, o raciocínio necessário para defesa tende a ser mais aberto. Uma equipe ou agente de segurança precisa identificar comportamentos potencialmente maliciosos entre milhares de atividades legítimas, correlacionar eventos e determinar quando uma sequência aparentemente comum representa parte de uma invasão.

“Defensive security is about finding needles in the haystack”, afirmou Pluda ao The Register, comparando a tarefa defensiva à procura de uma agulha em um palheiro.

Agentes de IA começam a atuar diretamente na resposta a incidentes

A proposta da Corma é utilizar modelos especializados para alimentar agentes de IA que atuam como integrantes de uma equipe de segurança. Esses sistemas podem receber diferentes tarefas defensivas e operar sobre ambientes corporativos para investigar e responder a ameaças.

A empresa afirma que organizações Fortune 100 e Fortune 500 dos setores de saúde, serviços financeiros, energia, infraestrutura crítica e varejo já utilizam sua força de trabalho baseada em IA.

Segundo dados divulgados pela própria startup, essas primeiras implementações teriam reduzido o tempo de resposta a ameaças em mais de 94% e ampliado em 15 vezes a cobertura entre diferentes funções de segurança. Como esses números são fornecidos pela própria empresa, devem ser interpretados como resultados reportados pela Corma, e não como uma avaliação independente.

Um dos casos relatados por Pluda ilustra o nível de autonomia pretendido para esses agentes. Um executivo de segurança estava passeando com seu cachorro quando recebeu no relógio uma notificação enviada por um agente informando que havia identificado um ataque em andamento e solicitando autorização para bloqueá-lo.

O executivo aprovou a ação pelo dispositivo. Segundo o relato, o agente bloqueou o malware, impediu que o invasor avançasse lateralmente pela rede corporativa e mitigou a intrusão em menos de dez minutos.

O episódio representa uma mudança relevante em relação ao uso convencional de IA em cibersegurança. Em vez de apenas resumir alertas ou auxiliar um analista durante uma investigação, agentes passam a participar diretamente do ciclo de detecção, decisão e resposta a incidentes — embora ações críticas ainda possam depender de autorização humana, como no caso relatado.

Esse modelo também aumenta a importância de mecanismos de confiança e controle. Um agente capaz de bloquear processos, usuários, dispositivos ou comunicações dentro de uma rede precisa interpretar corretamente o contexto antes de executar uma ação, já que uma decisão equivocada pode afetar sistemas legítimos e operações de negócio.

Startup recebe US$ 60 milhões

Fundada há cerca de um ano, a Corma anunciou uma rodada seed de US$ 60 milhões, liderada pela Sequoia Capital, com participação da Khosla Ventures e Coatue.

Pluda afirma que a empresa pretende desenvolver modelos cada vez mais especializados em segurança defensiva para reduzir a diferença observada em relação às capacidades ofensivas da IA.

A evolução dos sistemas agênticos adiciona uma nova dimensão a essa disputa. Os mesmos recursos que permitem automatizar pesquisa de vulnerabilidades, desenvolvimento de código e coordenação de ferramentas também podem ser aplicados à investigação de alertas, correlação de eventos e resposta a incidentes.

Os testes apresentados pela Corma, no entanto, indicam que ainda existe uma diferença significativa entre essas duas aplicações. Enquanto os modelos avaliados tiveram sucesso em 85% das tentativas de estabelecer um backdoor, apenas 19% dos ataques foram identificados quando esses mesmos modelos assumiram a função de defesa.