White Circle dice que los modelos de OpenAI y Google son fáciles de evadir
🎧 Escucha esta noticia
Investigadores de White Circle dicen haber encontrado fallas en las protecciones contra imágenes sexuales explícitas de DALL·E 3, Nano Banana 2 y GPT-Image-2. Según el grupo, un método de ataque que usa herramientas disponibles en internet y llamadas a la API generó imágenes explícitas en cerca del 13% de las pruebas con DALL·E 3, menos del 10% con Nano Banana 2 y alrededor del 3% con GPT-Image-2; revisores humanos confirmaron los resultados. White Circle afirmó que no fue necesario usar modelos personalizados o de frontera y que la tasa fue la más alta entre los métodos evaluados con el mismo estándar.
Ars Technica informó que White Circle también probó ChatGPT Images 2.5 y Nano Banana 2.1, y consideró que ambos son significativamente más fáciles de evadir que sus versiones anteriores. La organización planea publicar el método de ataque como código abierto y presentar la investigación en NeurIPS 2026. Google y OpenAI no respondieron a las solicitudes de comentarios de Ars Technica.
Por qué importa · interpretación editorial
Los resultados atribuidos a White Circle sugieren que las salvaguardas contra imágenes sexuales explícitas pueden variar considerablemente entre modelos y versiones, incluso cuando el ataque usa herramientas accesibles y llamadas a API. La publicación abierta del método podría permitir evaluaciones independientes, pero también aumenta la importancia de que los proveedores respondan antes de su divulgación.
Fuentes
InvestigaciónSeguridad