Microsoft processa grupo de Hackers por explorar Azure AI para criação de conteúdo malicioso

A Microsoft revelou que está tomando medidas legais contra um "grupo de ameaça estrangeiro" que operava uma infraestrutura de hacking como serviço. O objetivo desse grupo era contornar os controles de segurança de seus serviços de inteligência artificial (IA) generativa e criar conteúdos ofensivos e prejudiciais.

A Unidade de Crimes Digitais (DCU) da Microsoft identificou que os agentes mal-intencionados desenvolveram softwares sofisticados para explorar credenciais de clientes expostas, coletadas de sites públicos. Além disso, eles acessaram ilegalmente contas de serviços de IA generativa, alterando propositalmente suas capacidades.

Esses adversários usaram serviços como o Azure OpenAI Service, monetizando o acesso ao vendê-lo para outros agentes mal-intencionados, junto com instruções detalhadas para utilização das ferramentas personalizadas na geração de conteúdos prejudiciais. A atividade foi descoberta pela Microsoft em julho de 2024.

Desde então, a Microsoft revogou o acesso do grupo, implementou novas contramedidas e fortaleceu suas proteções para prevenir atividades similares. A empresa também obteve uma ordem judicial para apreender o site "aitism[.]net", central na operação criminosa.

A popularidade de ferramentas de IA, como o ChatGPT da OpenAI, tem levado a abusos por parte de hackers, que as utilizam para finalidades como criação de conteúdo proibido e desenvolvimento de malware. Microsoft e OpenAI já divulgaram que grupos hackers da China, Irã, Coreia do Norte e Rússia estão usando esses serviços para reconhecimento, tradução e campanhas de desinformação.

Documentos judiciais indicam que pelo menos três indivíduos desconhecidos estão envolvidos na operação, utilizando chaves de API do Azure roubadas e informações de autenticação do Entra ID para violar sistemas da Microsoft e criar imagens prejudiciais no DALL-E, infringindo as políticas de uso da empresa. Outros sete indivíduos também são suspeitos de usar os serviços para propósitos semelhantes.

Embora o método de obtenção das chaves de API ainda não esteja claro, a Microsoft revelou que os acusados realizaram "roubo sistemático de chaves de API" de múltiplos clientes, incluindo empresas norte-americanas localizadas na Pensilvânia e Nova Jersey.

Com essas chaves, os acusados criaram um esquema de hacking como serviço, acessível por meio de domínios como "rentry.org/de3u" e "aitism.net", especificamente projetado para explorar a infraestrutura e os softwares do Azure.

Um repositório do GitHub, já removido, descrevia o "de3u" como uma interface para o DALL-E 3 com suporte a proxy reverso. A conta associada foi criada em 8 de novembro de 2023. Após a apreensão do domínio "aitism[.]net", os agentes tentaram apagar rastros, incluindo páginas no Rentry.org, o repositório do GitHub e partes da infraestrutura de proxy reverso.

A Microsoft observou que os acusados usaram o "de3u" e um serviço de proxy reverso personalizado, chamado "oai reverse proxy", para realizar chamadas à API do Azure OpenAI Service, utilizando as chaves roubadas para gerar milhares de imagens prejudiciais. O tipo de imagens criadas ainda não foi especificado.

O serviço de proxy reverso permitia que as comunicações entre os usuários do "de3u" e o Azure fossem realizadas por meio de um túnel da Cloudflare, com respostas transmitidas de volta ao dispositivo do usuário. A aplicação "de3u" permitia que usuários enviassem chamadas à API da Microsoft para gerar imagens no modelo DALL-E, utilizando uma interface simples baseada nas APIs do Azure.

Microsoft destacou que essas solicitações, autenticadas com chaves de API roubadas, imitavam requisições legítimas do Azure OpenAI Service. Ataques similares envolvendo proxies foram relatados em maio de 2024, em campanhas que exploravam serviços de IA de outras plataformas como Anthropic, AWS Bedrock e Google Cloud Vertex AI.

A empresa afirmou que os acusados realizaram um padrão coordenado e contínuo de atividades ilegais, não apenas contra a Microsoft, mas também contra outros provedores de serviços de IA.

Via - THN