Expertos explican por qué un botón de emergencia no basta para apagar una IA

Una IA puede detenerse cuando está en un entorno controlado, pero la tarea se vuelve más compleja a medida que el sistema gana autonomía y acceso a otros programas, archivos y máquinas. Nicolas Papernot, profesor de la Universidad de Toronto, dijo a AFP que el operador puede cortar el acceso a la capacidad de cómputo que necesita; si un agente se propaga a otros dispositivos, habría que detener sus copias una por una.

Thierry Poibeau, del Centro Nacional de Investigación Científica de Francia (CNRS), afirma que no existe un botón capaz de apagar la IA en su conjunto, aunque sí es posible detener sistemas específicos. En un artículo publicado en LinkedIn, Hussein Abbass, de la Universidad de Nueva Gales del Sur (UNSW), describió niveles de dificultad creciente a medida que el sistema sale de su entorno original. Jean-Gabriel Ganascia señaló que el riesgo más concreto puede ser la creciente dependencia de estos sistemas, cuya interrupción también podría afectar servicios legítimos.