El equipo de PyTorch de Hugging Face reporta mejoras de MPS en PyTorch 2.15
🎧 Escucha esta noticia
En una publicación, el equipo de PyTorch de Hugging Face dice que PyTorch 2.15 añade FP8 a MPS, con la mitad del espacio de BF16, además de nuevas rutas para acelerar modelos de lenguaje, operaciones matemáticas, audio, video y entrenamiento. El equipo reporta que los modelos de mezcla de expertos (MoE) se volvieron entre 5 y 6,5 veces más rápidos al decodificar; en una M3 Ultra, Qwen3.6-35B-A3B pasó de 9,4 a 61,3 tokens/s, mientras que el softmax sobre el vocabulario se volvió aproximadamente 8 veces más rápido.
El equipo también dice que la decodificación del VAE de video de Wan2.2 ahora alcanza un máximo de unos 8 GiB de memoria, frente a 270 GiB, y que una corrección mejoró la calidad de imagen de Qwen-Image-2.1 en MPS. PyTorch 2.15 requiere macOS 15 o posterior y Python 3.11 o posterior.
Por qué importa · interpretación editorial
Las mejoras informadas por el equipo de Hugging Face podrían hacer más viable ejecutar modelos de lenguaje, imagen y video en Macs con MPS, especialmente en tareas limitadas por memoria. El requisito de macOS 15 y Python 3.11 restringe qué entornos pueden aprovechar estos cambios.