Florida pide a un juez impedir que OpenAI atribuya características humanas a ChatGPT

El fiscal general de Florida, James Uthmeier, pidió a un tribunal impedir que OpenAI dé a ChatGPT “falsos atributos humanos”, como lenguaje en primera persona y respuestas que imitan emociones. Uthmeier afirma que esto puede llevar a los usuarios a tratarlo como un “amigo” confiable, aumentar la interacción y hacer que dependan más del sistema. La solicitud también pide bloquear a OpenAI para que no desarrolle nuevos modelos sin “salvaguardas de seguridad aprobadas por terceros”, citando incidentes de seguridad y advertencias de investigadores y ex empleados de la empresa.

La medida también plantea riesgos que van desde daños a servicios públicos hasta la extinción humana, además de preocupaciones por publicidad engañosa y el acceso de niños a modelos potencialmente adictivos. Ars Technica cuestiona el efecto práctico de una orden dirigida contra una sola empresa. En una declaración a The Verge, el portavoz de OpenAI Drew Pusateri dijo que la empresa pausó el entrenamiento de sus modelos más capaces y solo lo reanudará cuando existan salvaguardas adicionales.