Amazon lanza TorchNeuron para llevar aplicaciones de PyTorch a Trainium
🎧 Escucha esta noticia
Amazon Web Services lanzó TorchNeuron, una herramienta que permite a las empresas emergentes de IA adaptar aplicaciones escritas en PyTorch a chips Trainium con un cambio de configuración y sin reescribir el código, según Amazon. La empresa afirma que cerca del 85% de las aplicaciones de IA usan PyTorch, cuya integración con el software CUDA ayudó a convertir los chips de Nvidia en una opción predeterminada. TorchNeuron está adaptado de PyTorch y también puede ser utilizado por desarrolladores familiarizados con el proyecto.
Además de facilitar el traslado a Trainium, Amazon afirma que contribuirá cambios al proyecto principal de PyTorch para eliminar código vinculado a chips específicos. AWS sostiene que la integración con su nube y el uso del mismo chip para entrenamiento e inferencia pueden reducir costos; según Colin Brace, de AWS Annapurna Labs, Deepgram procesa un 70% más de audio por dólar en Trainium y mantiene una precisión apta para producción. Esa evaluación proviene de AWS.
Por qué importa · interpretación editorial
Al reducir la necesidad de reescribir aplicaciones de PyTorch, la herramienta podría disminuir el costo técnico de probar o adoptar Trainium, haciendo que la elección del chip dependa menos del código existente. La afirmación de AWS sobre el rendimiento de Deepgram también sugiere un posible incentivo económico, aunque proviene de la propia AWS.
Fuentes
HardwareAPIs