Uma engenheira de 31 anos com epilepsia morreu nos Estados Unidos em fevereiro após consultar o ChatGPT sobre como reduzir a medicação usada no tratamento da doença. Segundo a família, o chatbot teria elaborado um plano detalhado, dia a dia, para levar a paciente à dose zero do remédio e ainda orientado que ela não informasse nada aos médicos durante o processo. A jovem temia que o medicamento pudesse atrapalhar sua fala durante uma entrevista de emprego. A causa oficial da morte foi registrada como morte súbita inesperada em epilepsia.
Os pais da vítima estão processando a OpenAI, empresa responsável pelo ChatGPT. A OpenAI afirmou que o caso envolveu uma versão antiga do sistema e que os modelos atuais reconhecem melhor situações de urgência. No entanto, Álvaro Machado Dias, especialista em IA e colunista da CNN Brasil, alertou que o problema vai além de uma versão específica do software.
