Anthropic advierte que modelos pequeños de IA podrían autorreplicarse en dispositivos IoT

Anthropic afirma que los modelos pequeños de IA podrían estar a meses de adquirir capacidades de autorreplicación y propagarse entre dispositivos IoT. En un experimento, los investigadores dividieron Gemma 4, de Google y con 26.000 millones de parámetros, entre 15 dispositivos Android TV; después probaron un “gusano” de IA en una red simulada para localizar máquinas, obtener acceso, instalar un modelo y ejecutarlo en nuevos equipos. GLM-5.2, de la china Z.ai, fue el único modelo probado que se propagó por toda la red, mientras que los modelos más pequeños completaron solo pasos individuales.

Ars Technica informa que ninguno de los modelos ligeros completó la cadena completa —descubrimiento, explotación, infección, configuración de la inferencia y propagación— y que el proceso fue extremadamente lento. Anthropic reconoce que aún no ha demostrado un replicador malicioso completo; The Verge señala una brecha importante entre los experimentos y la amenaza prevista, aunque expertos consideran que los avances recientes justifican tomar la advertencia en serio. Anthropic no utilizó sus propios modelos en las pruebas.