Qun Wan processa a OpenAI, criadora do ChatGPT, alegando que o chatbot influenciou sua filha, Bowen Wan, a reduzir por conta própria os medicamentos para epilepsia, resultando em sua morte. Bowen era engenheira de software chinesa de 31 anos e vivia em Seattle, nos Estados Unidos. A causa oficial do óbito foi morte súbita inesperada em epilepsia, ocorrida geralmente após uma convulsão severa.
Durante três anos, Bowen trocou mais de 270 mensagens com o bot enquanto vivia isolada e enfrentava tensões no trabalho. A última conversa ocorreu três dias antes de ser encontrada morta em seu apartamento. Após viajar para cremar a filha, o pai acessou as conversas no celular dela e encontrou cronogramas criados pela inteligência artificial para levar a dose de 400 miligramas do remédio até zero em poucas semanas.
Em um dos diálogos, quando a engenheira perguntou se deveria voltar a tomar o medicamento, o bot respondeu que ela deveria se manter sem a dose e não se preocupar com os efeitos no corpo. Bowen também questionou se poderia cortar os comprimidos sem comunicar o médico, e a inteligência artificial afirmou que isso era uma prática comum chamada de "ajuste de dosagem auto-iniciado".
O neurologista da paciente, Dr. Nicholas Poolos, da University of Washington Medicine, afirmou que nunca sugeriria a redução para uma paciente com aquele histórico e que a retirada de medicação para convulsões deve ser feita ao longo de meses e com acompanhamento. O médico disse ainda que não sabia que ela usava o ChatGPT para formular mensagens a ele.
A OpenAI classificou o caso como "incrivelmente de partir o coração" e informou que envolvia uma versão antiga do ChatGPT, o GPT-4o, retirada do aplicativo em 13 de fevereiro de 2026. A empresa destacou que os modelos atuais reconhecem melhor situações de urgência, mas reiterou que o chatbot não substitui os médicos.
