NVIDIA dice que el codesarrollo de toda la pila puede aliviar la presión de memoria de la IA
NVIDIA afirma que diseñar juntas las GPU, CPU, redes, almacenamiento y software mejora el uso de la memoria en sistemas de IA. La empresa dice que su enfoque elevó hasta 30 veces el rendimiento agéntico por dólar, mientras la capacidad de HBM por GPU creció alrededor de 3%.
NVIDIA afirma que los modelos más grandes, los contextos más extensos y las aplicaciones agénticas están aumentando la presión sobre la memoria HBM de las GPU, mientras la oferta se ajusta y los precios suben a corto plazo. La empresa dice que su codesarrollo de toda la pila —que abarca GPU, CPU, redes, almacenamiento y software— distribuye los datos entre HBM, memoria de la CPU, SSD locales y almacenamiento compartido para obtener más trabajo útil de cada byte y reducir el impacto del llamado muro de memoria.
Según NVIDIA, la capacidad de HBM por GPU aumentó alrededor de 3% entre las plataformas NVIDIA Blackwell Ultra y Vera Rubin, mientras el rendimiento agéntico por dólar creció hasta 30 veces en AgentX, de SemiAnalysis. La empresa también afirma haber sido la primera en incorporar las tecnologías HBM3e y HBM4 a una pila de computación acelerada.
Por qué importa · interpretación editorial
El enfoque descrito por NVIDIA sugiere que manejar modelos más grandes y aplicaciones agenticas puede depender no solo de añadir HBM, sino de coordinar memoria, almacenamiento, redes y software. Las cifras de capacidad y costo son afirmaciones de la empresa, mientras que la evaluación del rendimiento se atribuye a SemiAnalysis.
Fuentes: NVIDIA