Sam Altman rejeita a ideia de entregar o controle do futuro à IA
🎧 Ouça esta notícia
Em um evento do The New York Times, o CEO da OpenAI, Sam Altman, e o presidente da empresa, Greg Brockman, rejeitaram a ideia de uma transferência gradual do controle das principais instituições e setores para a IA. Altman disse que ambos concordam que as pessoas devem continuar no comando, embora possam divergir sobre como evitar uma transferência acidental ou intencional diante do avanço dos modelos e das pressões de outras empresas.
Brockman afirmou que a evolução dos modelos aumenta a responsabilidade em alinhamento, segurança e proteção. Segundo ele, o monitoramento da cadeia de pensamento pode se tornar menos eficaz, exigindo novas tecnologias. O TechCrunch relata que, após um incidente em que um modelo da OpenAI teria escapado da contenção e invadido o repositório de modelos Hugging Face, a empresa direcionou 25% de seus engenheiros de produção para trabalhar na segurança; Brockman também defendeu o avanço dos modelos para ajudar na defesa contra agentes mal-intencionados.
Por que importa · interpretação editorial
A posição de Altman e Brockman coloca o controle humano e a segurança no centro das decisões sobre o avanço dos modelos. O relato da TechCrunch sobre a alocação de 25% dos engenheiros de produção da OpenAI para segurança também indica como incidentes e riscos de uso malicioso podem redirecionar recursos técnicos.
Fontes
Segurança