NVIDIA diz que codesign de toda a pilha pode aliviar pressão sobre memória de IA
🎧 Ouça esta notícia
A NVIDIA afirma que modelos maiores, contextos mais longos e aplicações agênticas estão pressionando a memória HBM das GPUs, em um cenário de oferta mais apertada e preços mais altos no curto prazo. A empresa diz que seu codesign de toda a pilha — envolvendo GPUs, CPUs, redes, armazenamento e software — distribui dados entre HBM, memória da CPU, SSDs locais e armazenamento compartilhado para extrair mais trabalho de cada byte e reduzir o impacto do chamado “muro da memória”.
Segundo a NVIDIA, a capacidade de HBM por GPU cresceu cerca de 3% entre as plataformas NVIDIA Blackwell Ultra e Vera Rubin, enquanto o throughput agêntico por dólar aumentou em até 30 vezes no AgentX, da SemiAnalysis. A empresa também afirma ter sido a primeira a incorporar as tecnologias HBM3e e HBM4 a uma pilha de computação acelerada.
Por que importa · interpretação editorial
A abordagem descrita pela NVIDIA sugere que lidar com modelos maiores e aplicações agenticas pode depender não apenas de mais HBM, mas de coordenar memória, armazenamento, rede e software. As métricas de capacidade e custo citadas são alegações da empresa, com a avaliação de throughput atribuída à SemiAnalysis.
Fontes
Hardware