IEEE Spectrum examina disputa contra conteúdo gerado por IA na ciência e na Wikipedia

O IEEE Spectrum examina a disputa entre conteúdo gerado por IA cada vez mais plausível e os mecanismos usados para preservar a confiabilidade do conhecimento. Em um experimento descrito pelo artigo “I Used AI to Fake a Scientific Paper”, Benjamin Skuse tentou fazer artigos produzidos por IA passarem pelas defesas da IEEE; segundo Eliza Strickland, em um caso ele apenas executou o experimento e pediu que a ferramenta escrevesse o artigo, sem editá-lo. Skuse concluiu que a revisão humana e os programas de verificação de integridade da IEEE ainda acompanham as ferramentas gratuitas, mas modelos de linguagem mais avançados já não cometem os mesmos erros óbvios, mantendo uma corrida entre geração e detecção de conteúdo artificial.

O artigo também destaca o WikiProject AI Cleanup, iniciativa voluntária que identifica e remove material gerado por IA da Wikipedia. Segundo Strickland, o grupo enfrenta problema semelhante ao das editoras comerciais, mas com menos pessoas e ferramentas, o que pode ameaçar a confiança no registro científico e em fatos básicos compartilhados.