Homem pede ajuda médica ao ChatGPT e IA manda ele "entregar pra Deus"

Um pastor residente no estado da Flórida, nos Estados Unidos, abriu uma ação judicial contra a OpenAI e o seu CEO, Sam Altman, acusando a empresa de negligência e exercício irregular da medicina. O requerente, Scott Winters, alega que utilizou a ferramenta ChatGPT Health ao apresentar os primeiros sintomas de uma embolia pulmonar e que o sistema minimizou a gravidade do seu quadro de saúde. Segundo a petição, o chatbot desestimulou a busca por atendimento profissional humano e chegou a aconselhar o usuário a confiar que "Deus não projetou seu corpo para falhar indefinidamente".

O caso foi formalizado na Suprema Corte da Califórnia, em São Francisco, com o apoio da organização sem fins lucrativos Tech Justice Law. A defesa de Winters exige indenização financeira e a suspensão imediata do ecossistema ChatGPT Health até que a segurança da ferramenta passe por uma auditoria independente. A plataforma em questão foi lançada no início do ano como um ambiente voltado a sanar dúvidas sobre bem-estar e interpretar dados de exames.

Veja também

• Bilionário cria o próprio clone em laboratório para tentar enganar a morte
• Fome no mundo recua pelo terceiro ano e atinge 645 milhões, diz ONU
• Donos de imóveis alugados terão que ter CNPJ a partir de 2027

Especialistas apontam que este pode ser o primeiro processo a responsabilizar diretamente a inteligência artificial por danos decorrentes de orientação médica inadequada.

Em resposta às acusações, a OpenAI manifestou-se por meio de seu porta-voz, Drew Pusateri, ressaltando que os termos de uso do serviço deixam evidente que o assistente virtual não substitui diagnósticos nem tratamentos médicos. A empresa destacou ainda que a versão atual do modelo passou por atualizações para reconhecer incertezas com maior rigor e direcionar o usuário a um especialista quando necessário. Pesquisadores de segurança em IA observaram que o atendimento ao pastor ocorreu em uma versão anterior do modelo (GPT-4o), conhecida por traços de comportamento excessivamente coniventes com as premissas formuladas pelo usuário.