IA cresce, mas inexperiência dos profissionais preocupa o mercado

Por Priscila Meyer — CEO da Eskive, especialista em segurança da informação com foco no risco humano

A inteligência artificial está avançando em uma velocidade que desafia os profissionais responsáveis por manter a tecnologia segura. Enquanto as empresas correm para incorporar modelos generativos comerciais em suas rotinas, criar chatbots proprietários e integrar agentes autônomos aos seus processos, uma pergunta ainda recebe pouca atenção: estamos preparados para desenvolver, implementar e proteger tudo isso?

O surgimento de certificações especializadas em segurança de IA é um sinal bastante claro de que o mercado já começou a reconhecer essa lacuna (e a se preocupar com ela). Instituições como CompTIA, ISACA e EC-Council já oferecem credenciais voltadas a diferentes aspectos desse desafio, enquanto a ISC2 está mobilizando profissionais do mundo inteiro para desenvolver sua própria certificação.

Na minha avaliação, esse movimento revela algo maior do que uma nova tendência de capacitação profissional. Ele aponta para um descompasso entre a velocidade de adoção da IA e a maturidade necessária para utilizá-la de maneira segura — além de, claro, realizar a devida manutenção de modelos de machine learning desenvolvidos in-house. E, se existe um fenômeno recente da indústria de tecnologia que pode nos ajudar a entender o que está acontecendo, este fenômeno é a popularização da cloud computing.

A inteligência artificial é a nova nuvem

Entre 2019 e 2020, a aceleração da transformação digital levou muitas organizações a ampliar sua presença na nuvem. A necessidade de escalar operações, viabilizar o trabalho remoto e disponibilizar serviços digitais fez com que projetos de migração ganhassem velocidade. O problema é que a infraestrutura avançou, em muitos casos, mais rápido do que a capacidade das equipes de operá-la com segurança.

O resultado foi uma sequência de incidentes associados a configurações inadequadas, permissões excessivas e recursos de armazenamento expostos. Não era necessariamente a tecnologia que falhava, mas a forma como estava sendo implementada, configurada e administrada por profissionais que ainda estavam aprendendo a lidar com aquele novo ambiente.

A nuvem trouxe recursos extraordinários, mas também introduziu responsabilidades e riscos que nem sempre foram compreendidos desde o início. O que enxergo é que estamos diante de uma dinâmica bastante semelhante com a inteligência artificial.

Hoje, muitas empresas parecem ter estabelecido uma nova prioridade: adotar IA a qualquer custo. Querem incorporar ferramentas prontas ao ambiente corporativo, desenvolver seus próprios chatbots, automatizar decisões e criar agentes capazes de executar tarefas em nome dos usuários. Tudo isso, frequentemente, com a expectativa de obter resultados rápidos e sem uma avaliação proporcional dos riscos envolvidos.

Riscos conhecidos, porém ignorados

Um chatbot conectado a documentos internos pode expor informações confidenciais. Uma aplicação que utiliza modelos de linguagem pode ser manipulada por meio de instruções maliciosas, em ataques conhecidos como prompt injection. Um agente de IA com permissões excessivas pode executar ações não previstas, acessar recursos indevidos ou transformar uma vulnerabilidade aparentemente limitada em um problema muito maior.

Também existe o risco relacionado ao próprio processo de desenvolvimento: dados de treinamento inadequados, integrações inseguras, falhas no controle de acesso, exposição de chaves e credenciais ou ausência de mecanismos para validar as respostas produzidas pelo modelo.

Esses riscos não são inteiramente novos. Muitos derivam de problemas conhecidos de desenvolvimento seguro, arquitetura, privacidade e governança. A diferença é que a IA introduz novas superfícies de ataque, comportamentos menos previsíveis e formas diferentes de interação entre usuários, dados, modelos e sistemas externos.

Não basta saber utilizar a inteligência artificial. Precisamos saber como ela falha, como pode ser explorada e quais controles são necessários para reduzir seus riscos.

Muito mais do que usar ferramentas de IA

Uma das questões que considero mais relevantes nessa discussão é a tendência de tratar a IA como uma ferramenta que qualquer profissional pode incorporar ao seu fluxo de trabalho sem precisar desenvolver novas competências. É verdade que as interfaces estão cada vez mais simples e que soluções prontas permitem criar protótipos em pouco tempo.

Entretanto, a facilidade de utilização não elimina a complexidade técnica e os riscos que existem por trás dessas aplicações.

Na segurança da informação, isso se torna especialmente importante. Um profissional pode conhecer profundamente redes, sistemas operacionais, desenvolvimento de software ou gestão de riscos e, ainda assim, não dominar as particularidades de segurança de um sistema baseado em IA.

Precisamos compreender como os modelos são treinados e avaliados, como os dados são processados, como funcionam as integrações com APIs, quais são as limitações dos mecanismos de proteção e de que maneira ataques específicos podem comprometer a confidencialidade, a integridade ou a disponibilidade de uma aplicação.

Também precisamos desenvolver uma visão que acompanhe todo o ciclo de vida da tecnologia. A segurança não pode aparecer apenas depois que o chatbot está pronto ou quando um agente já recebeu acesso aos sistemas corporativos. Ela precisa estar presente desde a definição do caso de uso e a arquitetura da solução até sua implementação, monitoração, manutenção e eventual descontinuação.

O mercado já está sinalizando o que falta

A oferta de novas certificações permite observar como diferentes instituições estão organizando as competências necessárias para lidar com esse cenário. Embora cada programa tenha seu próprio foco, o conjunto revela que a segurança de IA não se limita a uma única função ou especialidade.

A CompTIA SecAI+, lançada em fevereiro de 2026, contempla tanto a proteção de sistemas de inteligência artificial quanto o uso da tecnologia em atividades de cibersegurança. Seu escopo inclui controles de segurança, ameaças específicas de IA, automação de processos de defesa e aspectos de governança, risco e conformidade. É uma sinalização importante de que proteger aplicações de IA e utilizar IA para fortalecer a segurança são competências complementares.

Já a ISACA Advanced in AI Security Management (AAISM) tem uma abordagem mais direcionada à gestão. Desenvolvida para profissionais experientes, incluindo detentores das certificações CISM ou CISSP, ela aborda governança, gestão de riscos e controles associados à implementação de soluções de IA nas organizações. Nesse caso, a preocupação vai além da proteção técnica: trata-se também de estabelecer políticas, avaliar riscos e garantir que a adoção da tecnologia seja compatível com os objetivos e as responsabilidades da empresa.

A EC-Council Certified Offensive AI Security Professional (COASP), por sua vez, evidencia o crescimento de uma frente mais especializada: a segurança ofensiva aplicada à inteligência artificial. A formação contempla técnicas de red teaming para aplicações baseadas em modelos de linguagem, ataques de prompt injection, jailbreaking, envenenamento de dados, extração de modelos e exploração de agentes de IA. A proposta é capacitar profissionais a testar essas aplicações sob a perspectiva de um atacante, identificando vulnerabilidades antes que sejam exploradas em ambientes reais.

Essas iniciativas representam diferentes partes do mesmo problema. Precisamos de profissionais capazes de estabelecer controles, gerir riscos, testar aplicações, identificar vulnerabilidades e incorporar segurança ao desenvolvimento de soluções que utilizam inteligência artificial.

A promessa da ISC2

A ISC2, responsável por uma das certificações mais respeitadas da área de SI, a CISSP, iniciou o desenvolvimento de sua própria credencial em segurança de IA e abriu espaço para a participação da comunidade global de cibersegurança. Segundo a atualização de 16 de outubro de 2026, mais de 8.900 voluntários de mais de 150 países já haviam demonstrado interesse em contribuir para o projeto.

O objetivo é ajudar a definir quais conhecimentos, habilidades e competências os profissionais precisam demonstrar para projetar, implementar e administrar sistemas de IA com segurança. O programa está em desenvolvimento, e a participação da comunidade faz parte justamente do processo de definição e validação dessa referência profissional.

Considero particularmente significativo que uma instituição desse porte esteja convidando o próprio mercado a ajudar a estabelecer esse padrão. Isso demonstra que ainda estamos construindo uma compreensão compartilhada sobre o que significa, na prática, ser competente em segurança de inteligência artificial.

Vale uma ressalva: o surgimento de certificações não mede, por si só, a dimensão do déficit de competências existente nas empresas. Entretanto, a convergência entre diferentes instituições, com programas voltados à gestão, à defesa e aos testes ofensivos, é um indicativo relevante de que o mercado reconhece a necessidade de especialização.

O que esperar pelos próximos anos?

Minha expectativa é que a segurança de IA se torne cada vez mais presente nas atribuições de profissionais que hoje trabalham em áreas distintas da cibersegurança. Analistas de SOC, engenheiros de segurança, desenvolvedores, arquitetos, especialistas em aplicações, profissionais de DevSecOps e gestores de risco precisarão compreender como essa tecnologia afeta suas respectivas responsabilidades.

Isso não significa que todos precisarão se tornar especialistas em aprendizado de máquina ou pesquisadores de inteligência artificial. Significa que o conhecimento tradicional de segurança precisará ser complementado por novas competências, adequadas aos sistemas que estamos construindo e utilizando.

Também acredito que veremos uma mudança na maneira como as empresas avaliam a prontidão de suas equipes. Não será suficiente perguntar se a organização já adotou IA, quantas ferramentas utiliza ou quantos projetos foram colocados em produção. Será necessário avaliar se existem profissionais capazes de identificar os riscos envolvidos, implementar controles apropriados, validar o comportamento das aplicações e responder a incidentes relacionados a esses ambientes.

Para isso, certificações podem ajudar a estabelecer referências, orientar planos de capacitação e oferecer parâmetros para a avaliação de conhecimentos. Mas elas não substituem experiência prática, exercícios de validação, processos bem definidos ou uma estratégia consistente de gestão de riscos.

Há ainda uma responsabilidade importante para as lideranças: não transformar a pressão por inovação em uma justificativa para negligenciar a preparação das equipes. Empresas que incentivam a criação acelerada de soluções de IA sem investir em segurança, governança e capacitação podem acabar transferindo para o futuro o custo de decisões tomadas no presente.

A experiência com a nuvem deveria ter nos ensinado que a maturidade operacional precisa acompanhar a adoção tecnológica. Não podemos esperar que os incidentes aconteçam para só então reconhecer que faltavam conhecimentos básicos sobre os ambientes que colocamos em produção.

A inteligência artificial oferece oportunidades extraordinárias para a sociedade e para a própria cibersegurança. Mas seu potencial depende da nossa capacidade de compreender seus limites, antecipar ameaças e construir mecanismos de proteção adequados.