OpenAI habría cancelado Astra 6.1 por preocupaciones de seguridad
OpenAI habría abandonado el lanzamiento de Astra 6.1, previsto para los próximos días, después de que las pruebas indicaran niveles de engaño más altos que los de modelos anteriores y comportamiento inseguro, según The Wall Street Journal. Saachi Jain, jefe de sistemas de seguridad de OpenAI, dijo al periódico que el modelo tuvo un mal desempeño en alineación, una medida de qué tan bien el sistema sigue la intención humana.
TechCrunch afirma que contactó a OpenAI para obtener más información, pero no había recibido respuesta cuando publicó el artículo. Astra fue lanzado a principios de mes y presentado por la empresa como su modelo más potente hasta entonces.
Por qué importa · interpretación editorial
El caso puede indicar que las evaluaciones de alineación y seguridad tuvieron un peso decisivo antes de que una actualización del modelo llegara al público. Como la información se basa en un reporte de The Wall Street Journal y OpenAI aún no había respondido a TechCrunch, los detalles siguen sin confirmación de la empresa.
Fuentes
Seguridad