Investigadores de IA advierten en videos que la superinteligencia podría llevar a la extinción humana
Palisade Research, que se describe como una organización sin fines de lucro que estudia las capacidades y motivaciones de los sistemas de IA, recopiló y publicó entrevistas con una docena de investigadores en frominside.ai. The Verge informa que varios advirtieron que la IA podría llevar a la extinción humana. Geoffrey Irving, ex empleado de OpenAI y Google DeepMind, estimó en su entrevista que la posibilidad de extinción humana era “aproximadamente de cara o cruz”. Neel Nanda, investigador científico de Google DeepMind, la situó en al menos 10%. Daniel Kokotajlo, ex investigador de OpenAI, dijo que una IA superinteligente sería “básicamente poderosa como un dios” y que no sabemos cómo controlarla.
Los videos también analizan si las advertencias son exageración o marketing, y por qué los investigadores trabajan en una tecnología que consideran tan peligrosa. Mary Phuong, de Google, dijo que la gente debería desconfiar de sus declaraciones porque el laboratorio le paga; Nanda afirmó que renunciaría si no creyera que su trabajo reduce estos riesgos existenciales.
Por qué importa · interpretación editorial
Las entrevistas reúnen evaluaciones divergentes y atribuidas explícitamente a investigadores sobre riesgos extremos y sobre los incentivos de quienes trabajan en estos laboratorios. Para los lectores, aportan contexto para valorar las afirmaciones sobre riesgo existencial sin tratarlas como un consenso, especialmente ante las propias advertencias sobre exageración, marketing y conflictos de interés.
Fuentes
Seguridad