OpenAI diz que classificador de abuso infantil reduz falsos positivos em 48%
🎧 Ouça esta notícia
A OpenAI anunciou um classificador que, segundo a empresa, detecta imagens de abuso sexual infantil — inclusive as geradas por IA — com 48% menos falsos positivos; as imagens identificadas teriam duas vezes mais probabilidade de conter material abusivo. A empresa oferecerá acesso gratuito a organizações avaliadas, orientações a desenvolvedores e treinamento para autoridades policiais.
A ferramenta busca ajudar a triagem de denúncias no National Center for Missing and Exploited Children (NCMEC). A CyberTipline do órgão recebeu 400.000 denúncias relacionadas à IA generativa em 2025, ante 67.000 em 2024. A OpenAI também diz que exibirá um aviso e imporá uma pausa de 24 horas no ChatGPT a usuários que tentarem gerar esse material, além de relatar todos os casos de CSAM ao NCMEC.
Por que importa · interpretação editorial
A ferramenta pode ajudar organizações credenciadas a priorizar denúncias, enquanto a alta de relatos relacionados a IA citada no resumo sugere uma demanda maior por triagem. Como os números e capacidades são afirmações da OpenAI, o impacto operacional ainda deve ser avaliado pelas instituições que a utilizarem.
Fontes
SegurançaPesquisa