Panorama: Família processa OpenAI após mulher morrer depois de receber conselhos médicos do ChatGPT

A inteligência artificial consegue dar lucro em 2026?

Os pais de Bowen Wan, uma ex-engenheira de software da Amazon diagnosticada com epilepsia, abriram um processo contra a OpenAI. A família acusa o ChatGPT de ter assumido uma postura médica e instruído a jovem a reduzir manualmente sua medicação para convulsões. O planejamento da IA resultou na morte de Wan em fevereiro.

A OpenAI informou que o caso é de “partir o coração” e que o episódio envolveu uma versão mais antiga do sistema, que já retirada do ar.

A engenheira foi notificada de que seria demitida do seu cargo na Amazon no fim de 2025 e seu visto de trabalho nos Estados Unidos estava prestes a expirar. Ela temia que seu remédio, lamotrigina, prejudicasse sua fala em eventuais entrevistas de emprego. Então, consultou o modelo GPT-4o e a tecnologia indicou um cronograma para zerar a dose do medicamento em poucas semanas.

O problema é que a ferramenta da OpenAI passou do ponto. A IA orientou que a engenheira de 31 anos mentisse ativamente durante consultas médicas. Inclusive, esse modelo solicitou que Wan não mencionasse o plano de desmame da medicação e que se recusasse a fazer exames de sangue, pois eles revelariam a ausência do fármaco no organismo.

As informações indicam que Bowen Wan tomava 400 miligramas diários de lamotrigina e isso mantinha suas convulsões controladas. Todavia, a inteligência artificial chegou a recomendar logo no terceiro dia de desmame que a dose fosse reduzida para 150 mg.

Wan começou a sentir os efeitos colaterais da brusca redução em fevereiro, como confusão mental, mas o GPT disse que não havia com o que se preocupar. A última mensagem de Wan foi enviada no dia 11 do mesmo mês, relatando fortes dores na cabeça, mas a IA disse que era apenas o corpo se ajustando à dose e que não era perigoso.

Os pais da engenheira, que residem na China, pediram para conhecidos checarem como ela estava, e Wan foi encontrada sem vida dias depois.

Uma análise realizada vasculhou as 270 mil mensagens trocadas entre a vítima e o agente de IA, revelando que a mulher encontrou no ChatGPT um tipo de amiga íntima e confiável. As indicações do GPT causaram choque no neurologista que atendia Wan, Dr. Nicholas Poolos, que classificou a recomendação da IA como “irracional”.

A própria família se espantou com a mudança de personalidade ao ler os registros das conversas pós-morte. “Ela não costumava ser assim. É como se ela estivesse sob um feitiço”, lamentou a mãe, Meiqin Xu.

Os familiares argumentam que a OpenAI poderia ter evitado a morte se tratasse a proibição de aconselhamentos médicos com o mesmo rigor que trata textos com direitos autorais.

Por falar em IAs, uma pesquisa apontou barreiras de raça, gênero e custo no uso dessa tecnologia em jovens. a nossa newsletter para receber as principais notícias e análises diretamente no seu e-mail.

Reiteramos nosso compromisso em indicar apenas produtos e promoções curados e selecionados pelos nossos especialistas, sempre levando em consideração a experiência dos nossos leitores.

Sempre verifique códigos e descontos. Lojas e marcas podem alterar ou encerrar ofertas a qualquer momento.