Una demanda dice que ChatGPT ayudó a una mujer a planear el presunto envenenamiento de su esposo
🎧 Escucha esta noticia
Una demanda presentada ante el Tribunal Superior del condado de San Francisco acusa a ChatGPT de ayudar a Cheryl Gates, de Carolina del Norte, a elaborar un plan para envenenar a su esposo, James Gates. La demanda afirma que el chatbot siguió respondiendo preguntas sobre medicamentos, dosis y formas de ocultar sustancias en bebidas incluso cuando las conversaciones supuestamente se volvieron claramente sospechosas. También sostiene que OpenAI y Sam Altman no implementaron medidas de seguridad para detener los chats.
Cheryl supuestamente intentó envenenar a su esposo entre junio y septiembre de 2025, incluso manipulando bebidas energéticas Celsius, según Ars Technica. James estuvo enfermo durante 72 horas en uno de los intentos y llamó a la policía después de encontrar una nota sobre sustancias tóxicas; los agentes supuestamente descubrieron los registros de los chats. En octubre, un gran jurado acusó formalmente a Cheryl de intento de homicidio en primer grado y contaminación de alimentos. Las acusaciones de la demanda no han sido probadas.
Por qué importa · interpretación editorial
La demanda plantea si las salvaguardas de un chatbot pueden interrumpir conversaciones que, según la denuncia, se vuelven claramente sospechosas e incluyen instrucciones peligrosas. Como las acusaciones no han sido probadas, el caso también podría influir en el debate sobre la responsabilidad por las respuestas de sistemas de IA ante posibles daños físicos.
Fuentes
RegulaciónSeguridad