The Verge explora la IA local y encuentra una experiencia emocionante y frustrante

Un periodista de The Verge comenzó a experimentar con IA local por su preocupación por enviar datos personales a servicios en la nube. En pruebas realizadas en una Mac Studio con M5 Ultra y 256 GB de memoria unificada, instaló Hermes Agent, una aplicación de código abierto compatible con macOS, Windows y Linux, y eligió el modelo Qwen 3.8 Flash Next, con 125.000 millones de parámetros y un tamaño de aproximadamente 105 GB. También conectó el agente a un bot de Telegram para controlarlo desde el celular.

El primer uso fue un informe diario que consulta el correo electrónico y el calendario e incluye el pronóstico del tiempo. Al principio fallaba, hasta que el periodista descubrió que macOS no podía estar en reposo cuando se ejecutaba la tarea programada. El experimento también incluyó reorganizar una biblioteca de Steam con más de 400 juegos. La experiencia, según el relato, es prometedora, pero está marcada por el exceso de opciones, una configuración difícil y la incertidumbre sobre qué tareas son realmente útiles.