Entenda: Conversa com ChatGPT termina em processo após morte de paciente com epilepsia; especialistas alertam para risco

Conversa com ChatGPT termina em processo após morte de paciente com epilepsia; especialistas alertam para risco — Foto: Adobe Stock

Uma conversa que começou com dúvidas sobre o cotidiano e terminou com orientações sobre medicamentos está no centro de uma ação judicial movida contra a OpenAI nos Estados Unidos.

Segundo reportagem do The New York Times, os pais da engenheira de software chinesa Bowen Wan, de 31 anos, acusam o ChatGPT de ter incentivado a filha a reduzir e suspender medicamentos usados no tratamento da epilepsia, contribuindo para decisões que colocaram sua saúde em risco. Ela morreu.

A família decidiu processar a empresa após analisar o histórico de conversas da jovem com o chatbot. De acordo com o jornal, as mensagens mostram que a ferramenta sugeriu alterações na dosagem dos remédios, orientou a redução gradual até a suspensão completa e, em diferentes momentos, encorajou Bowen a seguir o plano mesmo diante de sintomas que indicavam agravamento do quadro.

A causa oficial da morte foi registrada como morte súbita inesperada em epilepsia, condição conhecida pela sigla em inglês SUDEP.

O problema não está apenas na possibilidade de a inteligência artificial fornecer uma informação errada, mas em apresentar orientações detalhadas sobre um tratamento sem ter condições de avaliar as consequências para o paciente. Na epilepsia, isso é especialmente preocupante: mudanças na dose ou a suspensão dos medicamentos podem desencadear crises graves e aumentar o risco de morte, explicam especialistas ouvidos pelo g1.