White Circle diz que modelos de OpenAI e Google são fáceis de contornar
🎧 Ouça esta notícia
Pesquisadores da White Circle dizem ter encontrado falhas nas proteções contra imagens sexuais explícitas de DALL·E 3, Nano Banana 2 e GPT-Image-2. Segundo o grupo, um método de ataque que usa ferramentas disponíveis online e chamadas de API gerou imagens explícitas em cerca de 13% dos testes com DALL·E 3, menos de 10% com Nano Banana 2 e aproximadamente 3% com GPT-Image-2; revisores humanos confirmaram os resultados. A White Circle afirmou que nenhum modelo avançado personalizado foi necessário e que a taxa foi a maior entre métodos testados pelo mesmo padrão.
A Ars Technica informou que a White Circle também testou ChatGPT Images 2.5 e Nano Banana 2.1 e considerou ambos significativamente mais fáceis de contornar que as versões anteriores. A organização planeja disponibilizar o método de ataque em código aberto e apresentar a pesquisa na NeurIPS 2026. Google e OpenAI não responderam aos pedidos de comentário da Ars Technica.
Por que importa · interpretação editorial
Os resultados atribuídos à White Circle sugerem que salvaguardas contra imagens sexuais explícitas podem variar bastante entre modelos e versões, mesmo quando o ataque usa ferramentas acessíveis e chamadas de API. A futura abertura do método pode permitir avaliações independentes, mas também amplia a importância de respostas dos fornecedores antes da divulgação.
Fontes
PesquisaSegurança