Especialistas explicam por que um botão de emergência não basta para desligar uma IA

Uma IA pode ser interrompida quando está em um ambiente controlado, mas a tarefa se torna mais complexa à medida que o sistema ganha autonomia e acesso a outros programas, arquivos e máquinas. Nicolas Papernot, professor da Universidade de Toronto, disse à AFP que o operador pode cortar o acesso à capacidade de computação; se um agente se espalhar por outros dispositivos, seria necessário interromper suas cópias uma a uma.

Thierry Poibeau, do Centro Nacional de Pesquisas Científicas da França (CNRS), afirma que não existe um botão capaz de desligar a IA como um todo, embora seja possível parar sistemas específicos. Em um artigo no LinkedIn, Hussein Abbass, da Universidade de Nova Gales do Sul (UNSW), descreveu níveis crescentes de dificuldade conforme o sistema deixa seu ambiente original. Jean-Gabriel Ganascia destacou que o risco mais concreto pode ser a dependência crescente desses sistemas, cuja interrupção também poderia afetar serviços legítimos.