Satya Nadella pide tratar los modelos de IA como comprometidos
🎧 Escucha esta noticia
En una publicación en X, el CEO de Microsoft, Satya Nadella, dijo que ya no basta con tratar la IA como un conjunto de “cajas negras anidadas” cuyas respuestas simplemente se aceptan o se rechazan. Pidió separar el modelo de la estructura que coordina su trabajo, externalizar los controles y las salvaguardas, y registrar cada acción importante con evidencia legible para las personas y a prueba de manipulación.
Nadella afirmó que los sistemas deben considerarse comprometidos desde el inicio y que una persona autorizada debería poder pausar o apagar un modelo en medio de una tarea: un “freno de emergencia”. Según Xataka, su publicación también propone diversidad de modelos, observación integral, verificabilidad, controles y auditorías independientes, contención y divulgación de incidentes. The Verge destacó la contención como un elemento central de la propuesta y señaló que Nadella defiende tecnologías estandarizadas para ello.
Por qué importa · interpretación editorial
La propuesta de Satya Nadella traslada parte de la seguridad de dentro del modelo a controles externos, registros auditables y la capacidad de interrumpir tareas. Si se adopta, este enfoque podría dar a los operadores más medios para investigar incidentes y limitar daños sin depender únicamente de las respuestas del modelo.
Fuentes
Seguridad