OpenAI lança integração com Apple Health após processo envolvendo conselho médico do ChatGPT

A OpenAI anunciou a expansão dos recursos de saúde do ChatGPT ao permitir que usuários conectem dados do Apple Health e prontuários médicos compatíveis ao chatbot. O lançamento acontece apenas um dia após a empresa ser processada por um usuário que afirma ter recebido orientações médicas equivocadas da IA, que teriam contribuído para o agravamento de uma embolia pulmonar.

Batizado de Health in ChatGPT, o novo recurso permite que usuários elegíveis conectem o ChatGPT ao aplicativo Apple Health no iOS. Com autorização explícita do usuário, a IA passa a ter acesso a informações como medicamentos, exames laboratoriais, histórico de consultas, qualidade do sono, atividades físicas e outros dados armazenados no ecossistema de saúde da Apple.

Segundo a OpenAI, o objetivo é oferecer respostas mais personalizadas durante conversas relacionadas à saúde, utilizando o contexto clínico compartilhado pelo próprio usuário. A empresa afirma que os dados conectados não serão utilizados para treinar seus modelos de inteligência artificial nem para fins publicitários.

O Apple Health funciona como um painel centralizador de informações médicas, reunindo dados coletados pelo iPhone, Apple Watch e aplicativos compatíveis, além de permitir o registro manual de informações como alergias, doenças preexistentes, medicamentos em uso e outras condições clínicas.

De acordo com a OpenAI, a integração surgiu após testes realizados com uma experiência dedicada à saúde dentro do ChatGPT. A empresa constatou que mais de 70% das conversas sobre temas médicos aconteciam fora desse ambiente específico, levando à decisão de incorporar os recursos diretamente às conversas tradicionais do chatbot.

Processo judicial reacende debate sobre uso da IA na medicina

O anúncio ocorre em um momento delicado para a OpenAI. Na quarta-feira, um morador da Flórida entrou com uma ação na Suprema Corte da Califórnia alegando que o ChatGPT forneceu recomendações médicas "extremamente perigosas", desencorajando-o a procurar atendimento enquanto uma embolia pulmonar evoluía.

Segundo a ação, o chatbot teria repetidamente minimizado a gravidade dos sintomas e recomendado que o paciente permanecesse em casa. Após ser hospitalizado, o autor afirma enfrentar um longo processo de recuperação física e psicológica em decorrência do atraso no tratamento.

Em resposta ao caso, a OpenAI destacou que os termos de uso do ChatGPT deixam claro que a ferramenta não foi desenvolvida para realizar diagnósticos, substituir médicos ou indicar tratamentos. A empresa também afirmou que seus modelos evoluíram significativamente desde o episódio citado na ação judicial.

A companhia reiterou que o ChatGPT "não é um médico e jamais deve ser utilizado como substituto para atendimento médico, diagnóstico ou tratamento". Segundo a OpenAI, atribuir exclusivamente ao chatbot decisões clínicas tomadas por pacientes simplifica excessivamente um problema muito mais complexo e pode impedir que as pessoas utilizem ferramentas que possam auxiliá-las durante sua jornada de cuidados com a saúde.

OpenAI diz ter treinado modelos para lidar melhor com incertezas

A OpenAI afirma ter trabalhado com centenas de médicos durante os testes da funcionalidade e informa que realizou treinamentos específicos para tornar seus modelos mais seguros em conversas sobre saúde.

Entre as melhorias destacadas estão:

• Maior capacidade de identificar situações que exigem atendimento médico urgente;

• Solicitação de contexto adicional antes de responder;

• Melhor comunicação das incertezas presentes nas respostas;

• Explicações mais acessíveis para informações médicas complexas.

Segundo a empresa, quando há informações insuficientes, os modelos foram treinados para reconhecer essa limitação em vez de simplesmente gerar uma resposta potencialmente incorreta.

Especialistas continuam apontando limitações da IA na área médica

Apesar das melhorias anunciadas, diversos estudos recentes continuam levantando preocupações sobre o uso de grandes modelos de linguagem (LLMs) em decisões clínicas.

Pesquisas publicadas ao longo deste ano indicaram que:

• Chatbots de IA não apresentaram desempenho superior aos mecanismos tradicionais de busca para auxiliar usuários em decisões relacionadas à saúde;

• Um estudo apontou que LLMs falharam em mais de 80% dos casos de diagnóstico diferencial precoce;

• Uma auditoria realizada pelo Auditor Geral da província de Ontário, no Canadá, identificou que sistemas de IA utilizados para gerar anotações médicas introduziam erros de medicação, omitiam informações críticas, inseriam dados incorretos e até produziam "alucinações", registrando fatos que nunca foram mencionados durante consultas.

Esses resultados reforçam que, mesmo com acesso a informações clínicas detalhadas do paciente, modelos de IA ainda apresentam limitações importantes em precisão, confiabilidade e segurança para apoiar decisões médicas.

Dados médicos podem reduzir erros, mas não eliminam riscos

Embora o acesso ao histórico clínico possa fornecer contexto adicional e evitar alguns tipos de recomendações inadequadas — por exemplo, considerando fatores de risco previamente registrados para determinadas doenças — isso não impede que o modelo produza respostas incorretas.

A própria OpenAI reconhece que o ChatGPT ainda pode cometer erros e reforça que qualquer orientação relacionada à saúde deve ser validada por profissionais qualificados.

O recurso Health in ChatGPT começou a ser disponibilizado para usuários autenticados do iOS e da versão web, maiores de 18 anos, residentes nos Estados Unidos e assinantes dos planos Free, Go, Plus e Pro.