OpenAI dice que su clasificador de abuso infantil reduce falsos positivos un 48%
🎧 Escucha esta noticia
OpenAI anunció un clasificador que, según la empresa, detecta imágenes de abuso sexual infantil —incluidas las generadas por IA— con un 48% menos de falsos positivos; las imágenes que identifica tendrían el doble de probabilidades de contener material abusivo. La empresa ofrecerá acceso gratuito a organizaciones verificadas, orientación para desarrolladores y capacitación para las fuerzas del orden.
La herramienta busca ayudar a clasificar denuncias en el National Center for Missing and Exploited Children (NCMEC). La CyberTipline de la organización recibió 400.000 denuncias relacionadas con IA generativa en 2025, frente a 67.000 en 2024. OpenAI también dice que ChatGPT mostrará una advertencia y aplicará una pausa de 24 horas a los usuarios que intenten generar ese material, además de reportar todos los casos de CSAM al NCMEC.
Por qué importa · interpretación editorial
La herramienta podría ayudar a organizaciones acreditadas a priorizar denuncias, mientras que el aumento de reportes relacionados con IA citado en el resumen sugiere una mayor demanda de clasificación. Como las cifras y capacidades son afirmaciones de OpenAI, las instituciones que la utilicen aún deberán evaluar su impacto operativo.
Fuentes
SeguridadInvestigación