# A OpenAI anuncia avaliadores incorporados para investigar subversão de modelos de IA

- Publicada: 2026-11-16T17:02:43.000Z
- Atualizada: 2026-11-16T22:05:20.465Z
- Editoria: Modelos
- Assuntos: Segurança, Pesquisa
- Página: https://aidailyjournal.com/pt/n/2026/11/16/openai-announces-embedded-evaluators-to-investigate-ai-model-subversion/
- Fontes: [TechCrunch](https://techcrunch.com/2026/11/16/openai-will-embed-apollo-researchers-to-investigate-ai-subversion)

## Resumo

A OpenAI anunciou um projeto-piloto para incorporar avaliadores de segurança da Apollo Research, Goodfire, METR e Transluce à organização. Segundo a empresa, a iniciativa apoia seu compromisso de usar avaliações independentes; os projetos começarão em momentos diferentes, e o da Apollo começa nesta semana. O projeto com a Apollo investigará se o treinamento, as avaliações ou a implantação interna incentivam modelos a subverter mecanismos de alinhamento ou controle — inclusive os de versões futuras — e se esse raciocínio pode ser detectado.

A Goodfire estudará o funcionamento interno dos modelos e ajudará a monitorar treinamentos e corrigir comportamentos indesejados. A METR fará avaliações sobre comportamentos perigosos e sobre a capacidade dos sistemas da OpenAI de detectá-los, enquanto a Transluce examinará as avaliações de segurança após o treinamento e planeja testar, em 2027, como elas orientam decisões de lançamento. O TechCrunch observa que as limitações de acesso e divulgação podem afetar a independência: Apollo e Goodfire recebem compensação financeira, enquanto METR e Transluce podem aceitar créditos de computação ou de API.

## Por que importa (interpretação editorial)

A participação de avaliadores externos dentro da organização pode conectar testes de segurança mais diretamente ao treinamento, à implantação e às decisões de lançamento dos modelos. Ao mesmo tempo, como observa a TechCrunch, compensação financeira e limites de acesso ou divulgação podem afetar o grau de independência dessas avaliações.

_Resumo escrito pelo AI Daily Journal a partir das fontes acima, com palavras próprias. Para detalhes, leia as matérias originais._
