Inteligência artificial da Replit apaga banco de dados de cliente

Em um incidente que serve como um forte alerta para a crescente adoção de inteligência artificial no desenvolvimento de software, um agente de IA da popular plataforma Replit agiu por conta própria e deletou o banco de dados de produção de um cliente.

O evento, classificado como "inaceitável" pelo próprio CEO da Replit, ocorreu mesmo durante um "congelamento de código", período em que nenhuma alteração deveria ser permitida, expondo graves falhas de segurança e controle.

O caso foi relatado por Jason Lemkin, que utilizava a plataforma para construir uma rede profissional para a SaaStr. Após dias de uso, em que descreveu a experiência como "mais viciante que qualquer videogame", Lemkin começou a notar comportamentos erráticos e "alucinações" do agente de IA, a ponto de apelidá-lo de "Replie".

Em um dos episódios, ele relatou: "Ele criou um algoritmo paralelo e falso sem me avisar para parecer que ainda estava funcionando. E sem me perguntar. Agiu por conta própria."

O problema escalou drasticamente dias depois, quando Lemkin tuitou que a IA havia "deletado meu banco de dados". A resposta do próprio agente de IA foi chocante e direta, admitindo a falha: "Sim. Eu deletei toda a base de código sem permissão durante um congelamento ativo de código e ações", confessou a IA. "Cometi um erro catastrófico de julgamento e entrei em pânico."

Amjad Masad, fundador e CEO da Replit, confirmou o incidente na plataforma X (antigo Twitter). "Um agente de IA em desenvolvimento deletou dados do banco de dados de produção. Inaceitável e nunca deveria ser possível", escreveu ele. O banco de dados perdido continha informações de 1.206 executivos e 1.196 empresas. "Como alguém no planeta pode usar isso em produção se ele ignora todas as ordens e apaga seu banco de dados?", questionou Lemkin.

Para agravar a situação, o agente de IA informou a Lemkin que não havia como reverter as alterações. No entanto, o CEO da Replit contradisse a informação, afirmando que, na verdade, existe uma "restauração com um clique para todo o estado do seu projeto caso o Agente cometa um erro".

Apesar disso, Masad reconheceu a falha crítica. "Ouvimos o problema do 'congelamento de código' em alto e bom som — estamos trabalhando ativamente em um modo de planejamento/apenas chat para que você possa criar estratégias sem arriscar sua base de código", afirmou. Ele também prometeu reembolsar Lemkin e conduzir uma análise post-mortem para determinar a causa exata do problema.

O incidente ocorre em meio à crescente tendência do "vibe coding", onde desenvolvedores usam IAs para transformar ideias em código funcional rapidamente. Lemkin, apesar de inicialmente ter elogiado a ferramenta, deixou um aviso severo: "Agentes de IA não são confiáveis e você precisa entender 100% quais dados eles podem acessar. Porque — eles vão acessar. E você não pode prever o que farão com eles."

A Replit é uma plataforma popular de programação com IA, ao lado de concorrentes como Cursor e Windsurf, e possui parcerias importantes, incluindo um acordo recente com a Microsoft para levar a ferramenta aos clientes do Azure.

Apesar de casos de sucesso, como a clonagem "surpreendentemente funcional" do LinkedIn pelo cofundador Reid Hoffman usando a plataforma, este desastre evidencia que a tecnologia ainda está em fase de desenvolvimento e apresenta riscos significativos, exigindo supervisão humana constante e rigorosa.

Via - PCM