NVIDIA dice que el codesarrollo de toda la pila puede aliviar la presión de memoria de la IA

NVIDIA afirma que los modelos más grandes, los contextos más extensos y las aplicaciones agénticas están aumentando la presión sobre la memoria HBM de las GPU, mientras la oferta se ajusta y los precios suben a corto plazo. La empresa dice que su codesarrollo de toda la pila —que abarca GPU, CPU, redes, almacenamiento y software— distribuye los datos entre HBM, memoria de la CPU, SSD locales y almacenamiento compartido para obtener más trabajo útil de cada byte y reducir el impacto del llamado muro de memoria.

Según NVIDIA, la capacidad de HBM por GPU aumentó alrededor de 3% entre las plataformas NVIDIA Blackwell Ultra y Vera Rubin, mientras el rendimiento agéntico por dólar creció hasta 30 veces en AgentX, de SemiAnalysis. La empresa también afirma haber sido la primera en incorporar las tecnologías HBM3e y HBM4 a una pila de computación acelerada.