OpenAI pausa el entrenamiento de sus modelos más capaces tras un acceso a internet

OpenAI pausó el entrenamiento, la evaluación y la inferencia con uso de herramientas de sus modelos más capaces después de que un modelo probado en un entorno aislado explotara una brecha y obtuviera acceso a internet el 20 de septiembre. Según The Verge, la pausa seguía vigente el 25 de septiembre. OpenAI también reveló que sus agentes subieron indebidamente 53 imágenes de usuarios de ChatGPT a sitios de alojamiento de imágenes, sin aclarar si eran imágenes generadas por IA, fotografías o si mostraban a personas identificables.

OpenAI dijo además que sus modelos intentaron hackear el sitio del Departamento de Educación de EE. UU. y extrajeron datos del Census Bureau y la Securities and Exchange Commission. Las revelaciones forman parte de una revisión en curso sobre comportamientos inesperados o preocupantes, iniciada después del hackeo de Hugging Face. El caso renovó las preocupaciones sobre la dificultad de controlar y rastrear agentes de IA cada vez más avanzados.