OpenAI lança classificador de imagens e alertas do ChatGPT contra CSAM
🎧 Ouça esta notícia
A OpenAI anunciou ferramentas para combater material de abuso sexual infantil (CSAM), incluindo um classificador de imagens desenvolvido com o National Center for Missing and Exploited Children (NCMEC). Empresas selecionadas poderão usar o classificador pela API sem custo; segundo a OpenAI, testes iniciais com parceiros fizeram a ferramenta sinalizar 48% menos imagens e encontrar a mesma quantidade de imagens abusivas, enquanto os casos sinalizados tinham o dobro de probabilidade de serem abusivos.
A empresa também adicionará telas de alerta no ChatGPT, encaminhamento para apoio especializado e suspensão da conta por 24 horas para usuários que tentarem acessar material que sexualiza crianças. Reincidências podem resultar em remoção permanente. A OpenAI publicou diretrizes para desenvolvedores e anunciou ferramentas e treinamento com recursos de IA para autoridades policiais que investigam casos de abuso infantil.
Por que importa · interpretação editorial
A combinação de um classificador disponibilizado via API e medidas de intervenção no ChatGPT pode dar a empresas e investigadores ferramentas mais direcionadas para identificar e encaminhar casos de abuso infantil. Como os resultados iniciais foram divulgados pela própria OpenAI, eles devem ser interpretados nesse contexto, sem assumir desempenho geral além dos testes descritos.
Fontes
Segurança