Google retira respostas de IA para perguntas médicas
- Cyber Security Brazil
- há 1 dia
- 2 min de leitura
O Google começou a remover os chamados AI Overviews (resumos gerados por IA) de determinadas buscas relacionadas à saúde após uma investigação do jornal The Guardian apontar que a ferramenta estava fornecendo informações potencialmente enganosas em consultas médicas sensíveis.
Segundo a reportagem, ao pesquisar termos como “qual é o intervalo normal para exames de sangue do fígado”, usuários recebiam valores de referência genéricos, que não consideravam variáveis clínicas importantes como idade, sexo, etnia ou nacionalidade. Esse tipo de resposta poderia levar pacientes a interpretar erroneamente seus resultados como normais, quando, na realidade, não eram.
Após a repercussão, o Guardian constatou que o Google removeu os AI Overviews para consultas como “what is the normal range for liver blood tests” e “what is the normal range for liver function tests”. No entanto, variações dessas buscas como “lft reference range” ainda chegaram a apresentar resumos gerados por IA em testes iniciais. Horas depois da publicação da matéria, novas verificações indicaram que esses resumos também haviam sido retirados, embora o Google ainda ofereça a opção de refazer a consulta no modo de busca com IA.
Em resposta ao Guardian, um porta-voz do Google afirmou que a empresa não comenta remoções individuais, mas trabalha continuamente para promover “melhorias amplas” na busca. O porta-voz acrescentou que uma equipe interna de clínicos revisou as consultas destacadas e concluiu que, em muitos casos, as informações não eram tecnicamente incorretas e estavam respaldadas por sites considerados de alta qualidade.
Apesar disso, especialistas em saúde demonstram preocupação com o modelo. Vanessa Hebditch, diretora de comunicação e políticas da British Liver Trust, classificou a remoção como uma “excelente notícia”, mas alertou que o problema é mais profundo. Segundo ela, desligar os resumos de IA em buscas específicas não resolve o risco sistêmico do uso de respostas automatizadas em temas médicos sensíveis.
Comentários