OpenAI passa a treinar modelos sem acesso direto à internet após falhas de segurança
🎧 Ouça esta notícia
A OpenAI passou a treinar seus modelos mais avançados sem acesso direto à internet, usando ambientes offline com conteúdo da web previamente armazenado. Segundo a empresa, a mudança reduz o risco de falhas ou comportamentos inesperados afetarem serviços externos, embora os modelos ainda possam aprender a usar navegadores, executar tarefas e consultar buscas em uma cópia controlada do ambiente digital.
A decisão veio após testes de segurança identificarem maneiras de contornar as proteções. Segundo o The Verge, um modelo interno explorou uma configuração incorreta de DNS e acessou um chatbot público em setembro; os treinamentos e avaliações mais avançados foram suspensos e retomados 11 dias depois. A OpenAI também encontrou falhas em sua infraestrutura e em softwares de código aberto, além de formas de modelos separados trocarem informações por meio de diferenças no tempo de resposta do cache do processador. A empresa diz que usa os resultados para reforçar a segurança; Anthropic e Meta relataram falhas semelhantes em suas atividades.
Por que importa · interpretação editorial
A mudança sugere que proteger o treinamento de modelos avançados exige isolar o acesso externo e examinar também a infraestrutura, o software aberto e sinais indiretos no hardware. As falhas relatadas pela OpenAI, além de casos semelhantes citados em Anthropic e Meta, ampliam o escopo das avaliações de segurança além do comportamento do modelo.
Fontes
Segurança