TrendForce 解析 AI 内存墙应对方案：每 XPU 3.2TB 内存与 14 倍 HBM 容量扩展
14x HBM Capacity, 3.2TB per XPU: New Answers to the AI Memory Wall
TrendForce 在 2026 OCP 全球峰会（10 月 12–15 日）后梳理了多家厂商对 AI 内存墙的新答案，核心方向是把内存层级扩展到 HBM 之外。
TrendForce 2026 韩国路演将于 11 月 18 日在首尔举行。欢迎参与，深入了解先进封装如何重塑晶圆代工行业、DRAM 与 HBM 的下一个增长驱动力，以及 LPDRAM 在下一代计算中的新兴角色。在此报名。
过去几个月里，TrendForce 持续追踪 AI 基础设施在各瓶颈环节的表现：封装、材料、电力和内存，每一项都为算力可扩展的程度设置了上限。而内存是反复出现的那一个。随着推理向多轮智能体和更长上下文发展，必须保持在与 GPU 可及范围内的 KV Cache 和模型参数不断增加，而 HBM 的容量依然有限。
在 2026 OCP 全球峰会（10 月 12 日至 15 日）上，多家供应商针对 AI 内存墙提出了新的解决方案，重点是将内存层级扩展到 HBM 之外。SK hynix 提出将内存移入专用机架，并将 NAND 堆叠在 GPU 旁。Metrum AI 和 Solidigm 量化了共享 SSD 资源池对延迟和功耗的影响。Nallasway 及其合作伙伴设计了一款 XPU 模块，通过高速 SerDes 连接 3.2TB 的 LPDDR5X。
这些方案作用于系统的不同层面，并处于不同阶段——从已发布的规格到早期设计。本文将逐一解析各项方案、其背后的数据，以及目前的进展。
来源： TrendForce Insights 半导体产业洞察 · insights.trendforce.com