Equipe do PyTorch da Hugging Face relata ganhos no MPS do PyTorch 2.15
🎧 Ouça esta notícia
Em uma publicação, a equipe do PyTorch da Hugging Face diz que o PyTorch 2.15 adiciona FP8 ao MPS, ocupando metade do espaço do BF16, além de novos caminhos para acelerar modelos de linguagem, operações matemáticas, áudio, vídeo e treinamento. A equipe relata que modelos de mistura de especialistas (MoE) ficaram 5–6,5× mais rápidos na decodificação; no M3 Ultra, o Qwen3.6-35B-A3B passou de 9,4 para 61,3 tokens/s, enquanto o softmax sobre o vocabulário ficou cerca de 8× mais rápido.
A equipe também diz que a decodificação do VAE de vídeo do Wan2.2 passou a atingir cerca de 8 GiB de memória, contra 270 GiB, e que uma correção melhorou a qualidade de imagem do Qwen-Image-2.1 no MPS. O PyTorch 2.15 exige macOS 15 ou posterior e Python 3.11 ou posterior.
Por que importa · interpretação editorial
Os ganhos relatados pela equipe da Hugging Face podem tornar a execução de modelos de linguagem, imagem e vídeo mais viável em Macs com MPS, especialmente em tarefas limitadas por memória. A exigência de macOS 15 e Python 3.11 restringe quais ambientes podem aproveitar essas mudanças.