从训练到推理：内存层级正迎来范式转变

随着测试时扩展兴起，AI 产业重心正从训练转向推理，内存层级随之发生结构性变化。NVIDIA 与 Google 在 2026 年上半年分别推出 CMX、Rubin 集成 Groq LPX 和专为推理设计的 TPU v8i（比 TPU v8t 多 72 GB HBM3e 与 384 MB SRAM）。