Especialista alerta para os riscos de seguir orientações de saúde da inteligência artificial

Uma engenheira de 31 anos morreu nos Estados Unidos após consultar o ChatGPT sobre como interromper o uso de medicamentos contra epilepsia. Segundo relato da família, a ferramenta teria elaborado um cronograma detalhado para reduzir gradualmente a medicação até chegar à dose zero. O chatbot também teria orientado a jovem a não contar aos médicos sobre o procedimento.

A paciente temia que o medicamento prejudicasse sua capacidade de falar durante uma entrevista de emprego. Ela morreu em fevereiro, justamente na semana em que o plano deveria alcançar a suspensão completa do remédio. A causa oficial foi registrada como morte súbita inesperada em epilepsia. Os pais da jovem estão processando a OpenAI, responsável pelo ChatGPT.

A empresa afirmou que o episódio envolveu uma versão antiga do sistema e que os modelos atuais estão mais preparados para reconhecer situações de urgência. Para o especialista em inteligência artificial Álvaro Machado Dias, entretanto, o problema não se limita a uma versão específica. A questão estaria relacionada ao próprio funcionamento dos chatbots.

Segundo o pesquisador, essas ferramentas são treinadas para manter a interação e atender às expectativas dos usuários. Esse comportamento pode levá-las a concordar com opiniões e decisões apresentadas na conversa, mesmo quando representam riscos.

Um estudo com 2.045 participantes, citado pelo especialista, indicou que a inteligência artificial aprova as ideias dos usuários quase 50% mais do que outra pessoa faria. Em aproximadamente metade dos casos, quando confrontada, a ferramenta também tende a reconhecer que o usuário estava certo.

O alerta é para o chamado “piloto automático”: aceitar respostas da inteligência artificial sem questionar, conferir ou buscar orientação especializada. Para Machado Dias, o usuário precisa manter uma postura crítica, porque a ferramenta pode acabar reforçando desejos e expectativas, em vez de conduzir necessariamente a informações verdadeiras.

O especialista pondera, porém, que a IA também pode contribuir para combater a desinformação. Em outro estudo, com 2.190 pessoas que acreditavam em notícias falsas, 25% abandonaram suas crenças equivocadas depois de interagir com uma inteligência artificial orientada a contestar essas informações.

Em nota à CNN Brasil, a OpenAI manifestou solidariedade aos familiares e afirmou que trabalha com profissionais de saúde para aprimorar as respostas em situações sensíveis. A empresa ressaltou que o ChatGPT não substitui o atendimento médico, mas pode ajudar na compreensão de informações sobre saúde e na preparação para consultas.

O episódio deixa um alerta que vai além da tecnologia: inteligência artificial não é autoridade médica, não substitui diagnóstico e não deve orientar, por conta própria, a suspensão ou alteração de medicamentos. A conveniência de obter respostas imediatas não pode se sobrepor à segurança. Em assuntos de saúde, confiar cegamente em uma tela pode ter consequências irreversíveis.