Hugging Face presenta TorchTPU para usar TPUs con PyTorch nativo

Hugging Face presenta TorchTPU, un nuevo backend de PyTorch para TPUs, los aceleradores de IA de Google. Permite usar código regular de PyTorch y enviar modelos y entradas al dispositivo “tpu”, con soporte para Transformers, Diffusers y Kernels; el paquete también incluye kernels de Pallas, entrenamiento distribuido e integración con torch.compile.

Según Hugging Face, TorchTPU elimina la necesidad de Optimum TPU para ejecutar modelos de Transformers y Diffusers en TPUs. Transformers puede cargar modelos directamente en los chips, mientras que Diffusers ofrece modos de ejecución inmediata y compilada, además de dividir modelos grandes entre varios chips mediante TensorParallelConfig. La instalación en una TPU VM requiere un solo comando de pip.