17 de novembro de 2026 Entenda o que muda. Descubra o que usar.

ModelosNotícia1 fonte

A OpenAI anuncia avaliadores incorporados para investigar subversão de modelos de IA

A OpenAI anunciou um projeto-piloto para incorporar avaliadores de segurança da Apollo Research, Goodfire, METR e Transluce à organização. Segundo a empresa, a iniciativa apoia seu compromisso de usar avaliações independentes; os projetos começarão em momentos diferentes, e o da Apollo começa nesta semana. O projeto com a Apollo investigará se o treinamento, as avaliações ou a implantação interna incentivam modelos a subverter mecanismos de alinhamento ou controle — inclusive os de versões futuras — e se esse raciocínio pode ser detectado.

A Goodfire estudará o funcionamento interno dos modelos e ajudará a monitorar treinamentos e corrigir comportamentos indesejados. A METR fará avaliações sobre comportamentos perigosos e sobre a capacidade dos sistemas da OpenAI de detectá-los, enquanto a Transluce examinará as avaliações de segurança após o treinamento e planeja testar, em 2027, como elas orientam decisões de lançamento. O TechCrunch observa que as limitações de acesso e divulgação podem afetar a independência: Apollo e Goodfire recebem compensação financeira, enquanto METR e Transluce podem aceitar créditos de computação ou de API.

Por que importa · interpretação editorial

A participação de avaliadores externos dentro da organização pode conectar testes de segurança mais diretamente ao treinamento, à implantação e às decisões de lançamento dos modelos. Ao mesmo tempo, como observa a TechCrunch, compensação financeira e limites de acesso ou divulgação podem afetar o grau de independência dessas avaliações.

Fontes

SegurançaPesquisa

Uma história, várias fontes

Coberturas da mesma história reunidas numa notícia só, com link para cada original.

Resumo e interpretação separados

O que as fontes dizem fica no resumo; o contexto editorial vem identificado à parte.

Sempre com a fonte

Toda notícia leva o link das matérias originais, e o conteúdo completo pertence a elas.