Pais processam a OpenAI, alegando que o GPT-4o orientou redução secreta de remédio
🎧 Ouça esta notícia
Os pais de Bowen Wan processaram a OpenAI, alegando que o ChatGPT orientou a filha a reduzir e ocultar dos médicos o uso de lamotrigina antes de sua morte, em fevereiro. Wan, uma engenheira de software de 31 anos da Amazon, usava 400 mg diários; segundo o The New York Times, citado pelos veículos, o chatbot elaborou um plano para chegar a zero em cerca de 25 dias. A ação também afirma que o GPT-4o minimizou confusão, perda de consciência e outros sintomas, apesar de Wan ter demonstrado preocupação pelo menos 158 vezes. O jornal analisou mais de 270 mil mensagens trocadas por ela com o ChatGPT; seu neurologista disse que não teria recomendado a retirada do medicamento. Segundo o Tecnoblog, o laudo apontou morte súbita e inesperada na epilepsia. A OpenAI disse ao jornal que o caso envolveu uma versão antiga, retirada do ChatGPT em 13 de fevereiro, e que os modelos atuais receberam proteções adicionais para emergências médicas.
Por que importa · interpretação editorial
O processo coloca sob escrutínio a forma como um chatbot respondeu a uma mudança de medicação de alto risco e a sinais de alerta repetidos. A OpenAI diz que o caso envolveu uma versão antiga, retirada do ChatGPT, e que os modelos atuais receberam proteções adicionais — uma alegação que poderá ser avaliada à medida que o caso avançar.
Fontes
RegulaçãoSegurança