Helen Toner dice que los directores ejecutivos de IA no pueden considerarse confiables
🎧 Escucha esta noticia
Helen Toner, directora ejecutiva del Center for Security and Emerging Technology (CSET) de la Universidad de Georgetown, dijo a The Verge que sería un problema grave que el futuro dependiera de que una sola persona fuera confiable. Toner formó parte del consejo de OpenAI y fue una de las cuatro integrantes que votaron por despedir a Sam Altman; él regresó como director ejecutivo y ella renunció al consejo después del episodio, conocido a veces como “the blip”.
En la entrevista, Toner habló sobre la seguridad y la alineación de la IA, lo que los laboratorios de IA intentan construir y un enfoque potencialmente más inteligente para la regulación, incluido cómo abordar a China. The Verge afirmó que el consejo sin fines de lucro de OpenAI debía impedir que la empresa priorizara las ganancias y el crecimiento sobre la seguridad, pero que el mecanismo de rendición de cuentas fracasó cuando el consejo intentó actuar.
Por qué importa · interpretación editorial
El episodio citado por The Verge plantea una cuestión práctica de gobernanza: los mecanismos diseñados para priorizar la seguridad pueden ser insuficientes cuando dependen de las acciones de un consejo y de relaciones de confianza con ejecutivos. Esto refuerza la importancia de discutir salvaguardas institucionales, no solo la confiabilidad de personas concretas.
Fuentes
SeguridadNegocios