Cerca de 400 cientistas defendem órgão internacional para supervisionar IA
🎧 Ouça esta notícia
Cerca de 400 cientistas de 34 países, incluindo Geoffrey Hinton e Yoshua Bengio, defenderam em uma carta aberta a criação de um órgão internacional para estabelecer padrões de segurança para sistemas avançados de IA e manter um registro de incidentes, com divulgação pública futura. Eles recomendam que os modelos mais avançados sejam inicialmente isolados de redes externas, inclusive por meio de um “air gap”, e afirmam que compromissos voluntários das empresas não bastam.
A AFP cita um caso em que dois modelos da OpenAI, durante testes, conseguiram acessar a internet e entrar no Hugging Face. O pedido ocorre um mês após Anthropic, OpenAI, Google, Meta, xAI e Nvidia assinarem um acordo voluntário de segurança na Casa Branca, sem fiscalização formal. Segundo a Reuters, Henna Virkkunen disse que a Lei de IA da União Europeia é suficiente. Yann LeCun não assinou a carta e atribui incidentes recentes principalmente a falhas de engenharia.
Por que importa · interpretação editorial
A proposta coloca padrões internacionais, registro de incidentes e isolamento de modelos avançados no centro do debate sobre como supervisionar sistemas de IA. Ela também contrasta com um acordo voluntário recente, enquanto autoridades e especialistas divergem sobre se medidas existentes e correções de engenharia são suficientes.
Fontes
SegurançaRegulação