Nova plataforma da AMD usa IA para otimizar desempenho de GPUs

A AMD apresentou o ROCm.AI, uma plataforma voltada à implantação, depuração e otimização de modelos de inteligência artificial em aceleradores Instinct. Anunciada durante o evento Advancing AI, em São Francisco, a solução usa assistentes de programação para melhorar o desempenho de cargas de inferência por meio de comandos em linguagem natural.

A iniciativa busca reduzir uma das principais vantagens da Nvidia: o ecossistema CUDA. Embora frameworks como PyTorch e JAX já permitam executar o mesmo código em diferentes plataformas, a compatibilidade não garante desempenho máximo. Interfaces de baixo nível, como CUDA, ROCm e HIP, continuam importantes para explorar plenamente os recursos do hardware.

O principal desafio está na otimização manual de kernels de GPU e rotinas de multiplicação de matrizes, conhecidas como GEMM. Esse trabalho exige experiência específica, mas a AMD afirma que modelos avançados de IA já conseguem realizar parte dessas tarefas.

Segundo Anush Elangovan, vice-presidente corporativo de software e soluções de IA da AMD, a empresa publica para cada geração de GPUs não apenas as especificações do conjunto de instruções, mas também versões dessas informações em formato legível por máquinas.

Essa documentação permite que modelos de IA compreendam melhor a arquitetura dos chips e produzam código mais adequado ao hardware da empresa.

Com o ROCm.AI, a AMD pretende organizar esse processo. A plataforma se conecta a assistentes de código baseados em modelos avançados e fornece ferramentas e documentação para implantar, analisar, depurar e otimizar modelos e frameworks de inferência em aceleradores AMD Instinct.

Entre os recursos anunciados está o Hyperloom, um sistema automatizado de otimização de desempenho.

Ao receber uma instrução como “otimize o MiniMax M3 com o Hyperloom”, a ferramenta pode iniciar um servidor de inferência em um contêiner Docker, executar benchmarks para estabelecer uma linha de base, analisar a carga de trabalho, identificar gargalos e ajustar configurações. O sistema também pode gerar kernels personalizados durante o processo.

Em testes realizados nos novos racks Helios, a AMD afirma que o Hyperloom elevou o desempenho do modelo em 38% sobre a configuração inicial.

“Queremos oferecer a capacidade de extrair o máximo de desempenho”, afirmou Elangovan. Segundo ele, a ferramenta simplifica etapas de implantação, depuração, análise e otimização.

A AMD também informou que está trabalhando com empresas como OpenAI e Anthropic para melhorar a capacidade dos modelos de compreender o funcionamento de seu hardware e software.

De acordo com Elangovan, a estratégia não se limita a usar modelos avançados para gerar kernels. A empresa busca fazer com que essas ferramentas entendam nativamente a programação para o ecossistema AMD.

Além da interface própria de linha de comando, o ROCm.AI será oferecido como plug-in para assistentes de programação populares, incluindo Claude Code, da Anthropic; Codex, da OpenAI; Antigravity, do Google; e Cursor.