Anthropic alerta que modelos pequenos de IA podem se autorreplicar em dispositivos IoT

A Anthropic afirma que modelos pequenos de IA podem estar a meses de adquirir capacidades de autorreplicação, espalhando-se entre dispositivos IoT. Em um experimento, pesquisadores dividiram o Gemma 4, de 26 bilhões de parâmetros, entre 15 aparelhos Android TV; depois, testaram um “worm” de IA em uma rede simulada para localizar máquinas, obter acesso, instalar um modelo e fazê-lo funcionar em novos hosts. O GLM-5.2, da chinesa Z.ai, foi o único modelo testado a se espalhar por toda a rede, enquanto modelos menores executaram apenas etapas individuais.

A Ars Technica informa que nenhum dos modelos leves completou a cadeia de ponta a ponta — descoberta, exploração, infecção, configuração da inferência e propagação — e que o processo foi muito lento. A Anthropic reconhece que ainda não demonstrou um replicador malicioso completo; o The Verge observa que há uma distância significativa entre os testes e a ameaça prevista, embora especialistas considerem os avanços motivo para levar o alerta a sério. A Anthropic não usou seus próprios modelos nos testes.