IEEE Spectrum examina la disputa contra el contenido generado por IA en la ciencia y Wikipedia

IEEE Spectrum examina la disputa entre el contenido generado por IA, cada vez más verosímil, y las salvaguardas destinadas a preservar un conocimiento confiable. En un experimento descrito en “I Used AI to Fake a Scientific Paper”, Benjamin Skuse intentó hacer pasar artículos producidos por IA por las defensas de IEEE; Eliza Strickland dijo que, en un caso, simplemente ejecutó el experimento y pidió a la herramienta que escribiera el artículo, sin editarlo. Skuse descubrió que la revisión humana y los programas de integridad de investigación de IEEE aún siguen el ritmo de las herramientas gratuitas, pero los modelos de lenguaje más avanzados ya no cometen los mismos errores evidentes, lo que crea una carrera entre la generación y la detección.

El artículo también destaca WikiProject AI Cleanup, un esfuerzo voluntario que identifica y elimina material generado por IA de Wikipedia. Strickland afirma que el grupo enfrenta un problema similar al de las editoriales comerciales, pero con menos personas y herramientas, lo que podría amenazar la confianza en el registro científico y en hechos básicos compartidos.