Amazon lança TorchNeuron para levar apps PyTorch ao chip Trainium
🎧 Ouça esta notícia
A Amazon Web Services lançou o TorchNeuron, ferramenta que permite a startups de IA adaptar aplicações escritas em PyTorch para os chips Trainium com uma mudança de configuração, sem reescrever o código, segundo a Amazon. A empresa afirma que cerca de 85% das aplicações de IA usam PyTorch, cuja integração com o software CUDA ajudou a tornar os chips da Nvidia uma escolha padrão. A ferramenta é adaptada do próprio PyTorch e também pode ser usada por desenvolvedores familiarizados com o projeto.
Além de facilitar a migração para o Trainium, a Amazon diz que contribuirá com alterações para o projeto principal do PyTorch, removendo código vinculado a chips específicos. A AWS afirma que a integração com sua nuvem e o uso do mesmo chip para treinamento e inferência podem reduzir custos; segundo Colin Brace, da AWS Annapurna Labs, a Deepgram processa 70% mais áudio por dólar no Trainium, mantendo precisão adequada para produção. A avaliação é da AWS.
Por que importa · interpretação editorial
Ao reduzir a necessidade de reescrever aplicações PyTorch, a ferramenta pode diminuir o custo técnico de testar ou adotar Trainium, tornando a escolha do chip menos dependente do código existente. A alegação da AWS sobre o desempenho da Deepgram também sugere um possível incentivo econômico, embora venha da própria AWS.
Fontes
HardwareAPIs