OpenAI y Anthropic respaldan leyes vinculantes sobre seguridad de la IA en Reino Unido
🎧 Escucha esta noticia
Representantes de OpenAI y Anthropic dijeron en una audiencia parlamentaria británica que los compromisos voluntarios no son suficientes para garantizar la seguridad de la IA. El jefe de Anthropic en Europa, Liam Booth-Smith, respaldó reglas vinculantes, mientras que el vicepresidente de OpenAI, Tom Duff Gordon, apoyó un marco legal con elementos obligatorios, empezando por el reporte de incidentes, además de una convención internacional. Google DeepMind y Meta no apoyaron una nueva legislación; sus representantes defendieron enfocarse en los estándares y los reguladores existentes.
La audiencia también expuso los límites del sistema británico actual. El AI Security Institute prueba modelos de frontera antes de su lanzamiento solo cuando las empresas aceptan entregárselos, y no puede impedir la publicación de un modelo que considere peligroso. Cat Little, del Cabinet Office, confirmó que el régimen es voluntario por ahora. En un evento cercano, el director del MI5, Ken McCallum, advirtió que el posible uso indebido de la IA para crear nuevas armas biológicas era el riesgo al que atribuía mayor peso.
Por qué importa · interpretación editorial
El apoyo de OpenAI y Anthropic a reglas obligatorias, incluido el reporte de incidentes respaldado por OpenAI, contrasta con la preferencia de Google DeepMind y Meta por estándares y reguladores existentes. La audiencia también indica que el marco actual del Reino Unido depende de la cooperación de las empresas y no puede impedir el lanzamiento de un modelo que el instituto considere peligroso.
Fuentes
RegulaciónSeguridad