NVIDIA 讲解全栈协同设计缓解 HBM 压力

2026年11月6日，NVIDIA 在官方博客发文，阐述其如何以全栈协同设计应对智能体推理带来的 HBM 内存压力。文章指出，单靠增加 HBM 容量难以满足 AI 需求，NVIDIA 的做法是从 GPU、CPU、网络、存储到软件整体协同，提升每一字节内存的利用率。文章以从 Blackwell Ultra 到 Vera Rubin 平台为例：这一代际演进中单 GPU 的 HBM 容量仅提升约 3%，但在 SemiAnalysis 的 AgentX 基准上，每美元智能体吞吐量提升至多 30 倍，以此说明内存效率优化而非单纯容量堆叠是缓解 HBM 压力的关键路径。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。