Satya Nadella pede que modelos de IA sejam tratados como comprometidos
🎧 Ouça esta notícia
Em uma publicação no X, o CEO da Microsoft, Satya Nadella, disse que não é suficiente tratar a IA como um conjunto de “caixas-pretas” cujas respostas são apenas aceitas ou rejeitadas. Ele defendeu separar o modelo da estrutura que coordena seu trabalho, externalizar controles e salvaguardas e registrar cada ação relevante com evidências legíveis por humanos e à prova de adulteração.
Nadella afirmou que os sistemas devem ser considerados comprometidos desde o início e que uma pessoa autorizada deve poder pausar ou desligar um modelo no meio de uma tarefa — um “freio de emergência”. Segundo o Xataka, sua publicação também propõe diversidade de modelos, observação abrangente, verificabilidade, controles e auditorias independentes, contenção e divulgação de incidentes. O The Verge destacou que a contenção é um ponto central da proposta e que Nadella defende tecnologias padronizadas para isso.
Por que importa · interpretação editorial
A proposta de Satya Nadella desloca parte da segurança de dentro do modelo para controles externos, registros auditáveis e capacidade de interromper tarefas. Se adotada, essa abordagem pode dar a operadores mais meios para investigar incidentes e limitar danos, sem depender apenas das respostas do modelo.
Fontes
Segurança