Testes do IEEE Spectrum indicam limites no watermark textGrain da OpenAI na UE
🎧 Ouça esta notícia
Testes relatados pelo IEEE Spectrum indicam que o watermark textGrain, da OpenAI, pode não sobreviver a edições adicionais e tem desempenho pior em textos com menos de 150 palavras. Em questões do banco ELI5, o detector identificou marcas em cerca de 80% de textos de aproximadamente 150 palavras, contra 95% em textos de cerca de 300 palavras. Segundo a OpenAI, substituir 10% das palavras por sinônimos reduziu a detecção de 92% para 66%; com substituição de até 25%, a taxa caiu para 17%.
As obrigações de transparência do Artigo 50 da Lei de IA da União Europeia entraram em vigor em 2 de agosto e exigem que textos, imagens, vídeos e áudios sintéticos sejam marcados em formato legível por máquinas. Ainda não há um parâmetro legal claro para medir a eficácia desses watermarks. A OpenAI afirma que o textGrain deve complementar outras ferramentas de procedência, e não determinar sozinho se um conteúdo foi gerado por IA.
Por que importa · interpretação editorial
As obrigações do AI Act entram em vigor enquanto os testes relatados pela IEEE Spectrum apontam limitações de detecção após edições e em textos curtos, sem um parâmetro legal claro para medir eficácia. Isso pode dificultar avaliar se ferramentas como o textGrain atendem às exigências, especialmente porque a própria OpenAI diz que ele deve complementar outras ferramentas de procedência.
Fontes
PesquisaSociedade