Helen Toner diz que CEOs de IA não podem ser tratados como confiáveis
🎧 Ouça esta notícia
Helen Toner, diretora-executiva do Center for Security and Emerging Technology (CSET), da Universidade Georgetown, disse ao The Verge que seria um problema grave se o futuro dependesse de qualquer pessoa ser confiável. Toner integrou o conselho da OpenAI e foi uma das quatro integrantes que votaram pela demissão de Sam Altman; ele voltou ao cargo, e ela deixou o conselho após o episódio, conhecido como “the blip”.
Na entrevista, Toner discutiu segurança e alinhamento de IA, os objetivos dos laboratórios e uma abordagem mais eficaz para a regulação, incluindo como lidar com a China. O The Verge destacou que o conselho sem fins lucrativos da OpenAI deveria impedir que a empresa priorizasse lucro e crescimento em detrimento da segurança, mas que o mecanismo de responsabilização fracassou quando tentou agir.
Por que importa · interpretação editorial
O episódio citado pela The Verge levanta uma questão prática de governança: mecanismos criados para priorizar segurança podem ser insuficientes quando dependem da ação de um conselho e de relações de confiança com executivos. Isso reforça a relevância de discutir salvaguardas institucionais, não apenas a confiabilidade de indivíduos.
Fontes
SegurançaNegócios