Pesquisadores de IA alertam em vídeos que a superinteligência poderia levar humanos à extinção
A Palisade Research, que se descreve como uma organização sem fins lucrativos que estuda capacidades e motivações de sistemas de IA, reuniu e publicou no site frominside.ai entrevistas com uma dúzia de pesquisadores. Segundo o The Verge, vários deles alertaram para a possibilidade de a IA levar humanos à extinção. Geoffrey Irving, ex-funcionário de OpenAI e Google DeepMind, estimou em sua entrevista que a chance de extinção humana seria “aproximadamente cara ou coroa”. Neel Nanda, pesquisador do Google DeepMind, falou em uma chance de pelo menos 10%. Daniel Kokotajlo, ex-pesquisador da OpenAI, disse que uma IA superinteligente seria “basicamente poderosa como um deus” e que não sabemos controlá-la.
Os vídeos também discutem se os alertas são exagero ou marketing e por que pesquisadores trabalham em uma tecnologia que consideram tão perigosa. Mary Phuong, do Google, disse que o público deveria desconfiar de suas declarações porque ela é paga pelo laboratório; Nanda afirmou que deixaria o cargo se não acreditasse que seu trabalho reduz esses riscos existenciais.
Por que importa · interpretação editorial
As entrevistas reúnem avaliações divergentes e explicitamente atribuídas a pesquisadores sobre riscos extremos e sobre os incentivos de quem trabalha nesses laboratórios. Para o leitor, isso oferece contexto para avaliar alegações de risco existencial sem tratá-las como consenso, especialmente diante das próprias ressalvas sobre hype, marketing e conflitos de interesse.
Fontes
Segurança