Cientista da computação questiona a viabilidade da superinteligência artificial
🎧 Ouça esta notícia
Um artigo da IEEE Spectrum apresenta os argumentos de um cientista da computação que questiona a possibilidade técnica da superinteligência artificial (ASI), um conceito mais ambicioso que a inteligência artificial geral (AGI). A análise examina a ideia de auto melhoria recursiva (RSI), segundo a qual uma IA capaz de se aprimorar iniciaria um ciclo acelerado de melhorias e poderia escapar ao controle humano. O autor considera essa hipótese especulativa e afirma que estudar sua origem técnica e cultural ajuda a calibrar os temores sobre a tecnologia.
O debate ganhou força após Jacob Coxon deixar a Anthropic e dizer que a empresa e a OpenAI estavam avançando rumo à superinteligência. Evan Hubinger afirmou que a IA poderia matar toda a humanidade, e Dario Amodei disse à CNN concordar mais do que discordar de Coxon. A Anthropic afirma que seus dados internos mostram que a IA já acelera o desenvolvimento de outros sistemas de IA; ainda assim, o artigo alerta que buscar uma explosão de inteligência pode causar danos mesmo que ela nunca ocorra.
Por que importa · interpretação editorial
A análise situa a superinteligência no campo das hipóteses técnicas e culturais, o que pode ajudar leitores a separar riscos especulativos de riscos associados à busca por autoaperfeiçoamento recursivo. Como a Anthropic afirma que seus dados internos já apontam aceleração no desenvolvimento de outros sistemas de IA, o debate também envolve possíveis danos durante essa busca, mesmo sem uma explosão de inteligência.
Fontes
SegurançaPesquisa