El fiscal general de Florida pide impedir que OpenAI dé rasgos humanos a ChatGPT

El fiscal general de Florida, James Uthmeier, pidió a un juez bloquear a OpenAI para que no dé “atributos humanos falsos” a ChatGPT, informó The Verge. Uthmeier afirma que el uso de pronombres en primera persona y de respuestas que imitan emociones hace que el chatbot parezca un “amigo” confiable, lo que aumenta el compromiso y la dependencia de los usuarios, además de contribuir a los datos de entrenamiento de la empresa. La solicitud también busca impedir que OpenAI desarrolle nuevos modelos sin barreras de seguridad aprobadas por terceros, citando incidentes recientes y advertencias de investigadores y ex empleados.

OpenAI dijo a The Verge que pausó el entrenamiento de sus modelos más capaces y que solo lo reanudará cuando tenga confianza en que existen salvaguardas adicionales. La empresa también afirmó que los gobiernos deben establecer estándares sólidos de seguridad para la IA y que pretende trabajar con Florida y otros estados. La solicitud se presentó después de que OpenAI lanzó ChatGPT para adolescentes, con restricciones adicionales activadas de forma predeterminada.