SK hynix 在 OCP Global Summit 2026 提出“以内存为中心”的下代 AI 服务器愿景

随着 AI 处理的数据量爆炸式增长，数据瓶颈已成为新的挑战。下一代内存技术能否提供解决方案？现在有机会听到 SK hynix 对这一问题的回答。

SK hynix 参加了于 12 日至 15 日在加利福尼亚州圣何塞举行的 OCP Global Summit 2026，展出了多种下一代内存解决方案，并阐述了 AI 时代内存技术应当前进的方向。

OCP Global Summit 是一个用于共享和标准化数据中心硬件设计与规格的技术会议。今年，支撑 AI 发展的基础设施技术成为核心主题，SK hynix 提出的新型服务器系统备受关注。SK hynix 在实际系统层面演示了其为服务器准备的下一代解决方案，证明了其可行性，再次彰显了其技术领先地位。

▲ SK hynix 的展位

展位设计以坚固的灰色框架搭配霓虹蓝色灯光，将 SK hynix 下一代内存解决方案的核心价值——“可靠性”与“高效性”——以视觉形式呈现出来。展示空间分为前后两个区域。前方的“内存展区”展示公司当前的旗舰产品，吸引了参观者的目光；而后方宽敞的“系统演示”区则让参观者可以更近距离地了解构成下一代服务器生态系统的 SK hynix 内存解决方案。

▲ 参观者参观“系统演示”区

“系统演示”区从左到右依次介绍了三款解决方案：CMM-DDR5、MARS 和 CMM-Ax。CMM (CXL* Memory Module)-DDR5 是一种基于 CXL 接口标准的内存解决方案，通过让多台服务器共享一个内存池并按需使用，来提升资源利用效率。在本次展会上，SK hynix 发布了其基于 CXL 3.2、针对 AI 工作负载优化的第二代产品（256GB）。与前代产品相比，该产品带宽翻了一倍以上（80GB/s），能效提升约 30%。由于还应用了 CXL Pooled 功能，这款产品作为能有效解决数据密集型高负载环境下瓶颈的下一代内存产品备受关注。

* CXL (Compute eXpress Link)：一种在计算系统内高效连接 CPU、GPU、内存等组件的下一代解决方案，可支持大容量超高速计算。它基于 PCIe 接口，提供快速数据传输，并提供高效利用内存的池化功能。

▲ 参观者观看 CMM-DDR5 产品

去年 9 月，SK hynix 与 NAVER Cloud 签署了业务协议，此后一直致力于利用基于 CXL 的内存解决方案解决云 AI 服务的瓶颈。在本次演示中，公司展示了在 PoC* 层面验证智能体 AI* 环境中 KV cache* 共享解决方案以及全模态* 服务“OmniServe”中嵌入共享解决方案能否实际运行的结果。SK hynix 通过分析真实的客户系统和工作负载确认了其基于 CXL 的解决方案的适用性，为这些解决方案的全面扩展奠定了基础。

* 智能体式 AI（Agentic AI）：能够自主设定目标，并在无需用户指令的情况下执行多步骤任务的 AI。
* KV 缓存（Key Value Cache）：一种临时存储器，用于在基于大语言模型的 AI 智能体生成文本时存储先前计算的结果。对话越长、需要处理的任务越多，它就会呈指数级增长，因此高效存储和处理 KV 缓存的能力对 AI 智能体的性能有着重大影响。
* 全模态（Omni-Modal）：一种在单一模型内同时处理文本、图像和语音等多种数据形式的方案。
* PoC（概念验证）：验证新技术或新概念是否切实可行的阶段。

▲ 参观者正在了解 MARS 相关信息

MARS（Memory Centric AI Rack System，以内存为中心的 AI 机架系统）是一种新一代系统，它以内存为核心，将合作伙伴的解决方案整合到单个机架*中，从而实现效率最大化。在本次展会上，SK 海力士与多家合作伙伴一起展示了三项演示。

* 机架（Rack）：数据中心中用于将服务器、存储设备、网络设备等分层堆叠的标准尺寸框架。由于设备以机架为单位进行管理，机架是数据中心基础设施的基本构建单元。

▲ 使用 CXL 池化内存的 AI 智能体服务技术演示

在 AI 智能体服务演示中，SK 海力士与 Arcee、Liqid 和 Marvell 合作，展示了一套使用池化内存*连接多台服务器和 GPU 的系统。通过该演示，公司证明了基于 CXL 池化内存传输或复用 KV 缓存，与依赖网络通信的传统方法相比，可显著提升系统性能。

* 池化内存（Pooled Memory）：一种将多个 CXL 内存单元汇集为资源池，并通过让多个主机有效共享其容量来提高整体内存利用率的技术。

▲ 使用 CXL 混合内存的 AI 智能体服务技术演示

在与 AMD、Penguin、Xcena 和 Arcee 合作进行的演示中，SK 海力士展示了使用 CXL 内存和 CXL 混合内存*的内存机架的有效性。结果证实，该内存机架能够高效存储并快速复用持续产生的大规模 KV 缓存。特别是，演示清楚地展示了两种能力：根据先前的对话和任务历史快速预测将需要哪些 KV 缓存，并提前将所需的 KV 缓存加载到 DRAM 中以便快速处理。演示还证明，通过将完整的 KV 缓存存储在 SSD 上，该机架能够同时提供快速读取性能和大容量存储。

* CXL 混合内存：一种基于 CXL、结合了 DRAM 和 SSD 的混合内存解决方案。

▲ 使用池化内存降低服务响应延迟的技术演示

SK 海力士与个人 AI 智能体服务提供商 Pickle 合作，进行了一项利用池化内存降低服务响应延迟的演示。该演示证实，基于池化内存的流式传输可以加速个人 AI 智能体所必需的多个 AI 模型之间的数据传输，从而使最终结果更快地送达用户。

▲ 高效长上下文 LLM 服务技术演示

CMM-Ax 是一款将计算功能与内存相结合的新一代内存解决方案。它无需移动数据，直接在内存内部执行计算，可降低数据中心的功耗与成本负担。在本次展会上，SK 海力士通过“高效长上下文* LLM* 服务”这一下一代 AI 推理系统的演示，展示了 CMM-Ax 能够高效加速在传统基于 GPU 的系统上难以处理的长上下文。相关研究成果的技术实力也得到了官方认可，已被计算机体系结构领域最负盛名的学术会议“MICRO 2026”收录。

* 长上下文（Long Context）：AI 一次能处理的文本范围被定义为其上下文。上下文越长，AI 一次能参考的信息就越多，从而生成更精炼的答案——但这也需要更大的内存容量。
* LLM（大语言模型）：通过大数据学习来生成和理解自然、类人语句的 AI 模型。通过大幅增加参数规模，它获得了复杂上下文理解、推理和翻译等高级语言处理能力。

内存展区的设计让参观者可以看到 SK 海力士目前引领内存市场的旗舰产品。在最左侧的产品组合展示空间中，展出了涵盖 eSSD 和服务器 DRAM 的 AI 基础设施产品阵容。

eSSD 产品阵容按外形规格分类，展示了针对多样化客户需求、具备不同用途的产品：高性能的“PS1010 U.2”；正在陆续开发中的高性能“PS1110 E3.S”和大容量“PS1101 E3.S”；以及支持直接液冷（DLC）、作为数据中心用 eSSD 备受瞩目的“PEB210 E1.S”和“PEB210 M.2 2280”。

在服务器 DRAM 方面，SK 海力士介绍了多种容量的 DDR5 RDIMM 产品阵容——以面向 AI 工作负载提供业界最大容量的“256GB 3DS* RDIMM*”为首，并延伸至 96GB 和 64GB。此外，与 128GB DDR5 MRDIMM* 一起，还展出了以全新外形规格提升功耗与空间效率的“192GB SOCAMM*2”。

* 3DS（3D 堆叠内存）：通过 TSV（硅通孔）连接两个或以上 DRAM 芯片的高性能内存。
* RDIMM（带寄存器的双列直插内存模块）：组合多个 DRAM 芯片的服务器模块。
* MRDIMM（多路复用列双列直插内存模块）：模块的基本运行单元——两个列（rank）同时运行的产品，可大幅提升速度。
* SOCAMM（小外形压缩连接内存模块）：专为 AI 服务器打造的低功耗 DRAM 内存模块。

▲ 供参观者查询产品信息的触摸屏

SK 海力士还搭建了模拟真实服务器的触摸屏模型，让参观者可以查看详细的产品信息。

▲ 一位参观者正将 SK 海力士的 HBM4 产品安装到 NVIDIA 的 Vera Rubin 模型上

位于中央的 HBM* 展区的设计让观众能够一目了然地了解 SK hynix 的 HBM 技术领先地位及其与 NVIDIA 的坚实合作伙伴关系。在展示区左侧，NVIDIA Vera Rubin 超级芯片的模型凸显了两家公司之间的合作，观众还可以亲自将 HBM4 和 SOCAMM2 安装到服务器模型上。右侧矗立着一个放大一百万倍的 HBM 模型，旁边的显示器播放着介绍 HBM 核心技术 TSV* 和 Advanced MR-MUF* 的视频。两个模型之间陈列着实际的 HBM4E、HBM4 和 HBM3 产品，让观众亲眼见证 HBM 产品一代代的演进。

* HBM（High Bandwidth Memory，高带宽内存）：一种高附加值、高性能产品，通过将多个 DRAM 芯片垂直连接来增加容量并大幅提升数据处理速度。HBM 按以下顺序开发：第 1 代（HBM）– 第 2 代（HBM2）– 第 3 代（HBM2E）– 第 4 代（HBM3）– 第 5 代（HBM3E）– 第 6 代（HBM4）– 第 7 代（HBM4E）。
* TSV（Through Silicon Via，硅通孔）：通过垂直穿过硅基板的电极连接芯片的技术。
* Advanced MR-MUF：一种下一代 MR-MUF 技术，应用了翘曲控制——一种使芯片在比传统芯片薄 40% 的情况下堆叠而不弯曲的芯片控制技术——同时还改善了散热性能。

▲ 展示 HBF 结构的模型

HBF（High Bandwidth Flash，高带宽闪存）是一种下一代 NAND 解决方案，与 HBM 一样采用 TSV 技术，将传统存储的高容量与高带宽相结合。随着以推理为中心的智能体 AI 时代的展开，它作为高效处理 AI 激增数据使用量的关键技术而备受关注。在展示区左侧矗立着一个展示 HBF 结构的模型，其右侧是一条介绍其详细规格的横幅。在配套的显示器和平板电脑上，SK hynix 通过基于内部仿真实验的视频和性能图表，介绍了 HBF 的关键特性，以及 HBM 和 HBF 在不同 AI 推理服务环境中的各自优势。结果表明，在需要快速响应时间的环境中可以利用 HBM 的高速处理能力，而在需要大容量内存服务众多用户的环境中则可以利用 HBF 的大容量特性。

▲ 位于展台外墙、传达 SK hynix 愿景的图形

与此同时，展台右侧的墙面上展示了一幅图形，传达了公司在整个内存层级提供优化解决方案的愿景。在从 2013 年开发出全球首款 HBM 到如今取得技术领先地位的历程之下，还介绍了 HBM、DRAM 和 NAND 各领域的最新产品和技术开发状况。

▲ 内存系统研究部门负责人金浩植（Hosik Kim）副总裁在进行演讲

与展览相呼应，演讲环节也提升了对以内存为中心的服务器系统的期待。首先，在第一天下午举行的“Executive”环节中，内存系统研究部门负责人金浩植（Hosik Kim）副总裁作为演讲嘉宾登台，发表了题为“以内存为中心的 AI 机架系统（MARS）介绍”的演讲。

Kim 副总裁首先指出，随着生成式 AI 和超大规模数据中心的快速发展，以 CPU 和 GPU 为中心的传统架构面临着被称为“内存墙”的瓶颈，同时功耗也急剧上升。随后，他提出了一种“以内存为中心的 AI 机架系统”作为解决方案。

“该系统通过下一代 CXL 技术连接 CPU 和 GPU，实现了机架级内存池化和动态零拷贝数据共享，”他解释道，“其结构能够显著提高高负载工作负载下数据移动的速度。”他还补充说：“利用这一点，我们可以提高协同式智能体 AI 的 KV 缓存复用效率，加快个人智能体 AI 服务中多模态全模态模型的响应速度，并解决大规模 GNN* 训练中出现的无规律内存访问问题。”

* GNN（图神经网络）：一种从由节点和边连接的图结构数据中学习的 AI 模型。它被应用于社交网络、分子结构和推荐系统等数据之间关系非常重要的领域。

▲ 系统架构部门主管 Youngpyo Joo 副总裁参加小组讨论

此外，系统架构部门主管 Youngpyo Joo 副总裁参加了第三天下午举行的小组讨论。该小组讨论以“为 PIM/PNM 整合跨企业的软件框架和 API”为主题，探讨了在多家企业竞争与合作交织的生态系统中，连接客户与产品的软件框架的重要性，并讨论了该领域标准化的必要性。

在当天举行的“分组会议”环节，直接参与开发的工程师们登台，详细讲述了关键内存技术的必要性、开发背景以及实际的开发历程和现状。

首先，AI System Infra 的组长 Jongryool Kim 就“基于计算共享内存池的智能体 AI 服务系统”——一种提升智能体 AI 服务性能的基于共享内存的技术——发表了演讲，解释说令牌共享可以加速基于 CPU 的分词，而 KV 缓存共享则能提高响应速度和资源效率。他还强调了通过将分词和实时 KV 缓存重要性分析卸载到计算共享内存中来进一步提升性能的潜力。

AI System Infra 的技术负责人 Younghoon Min 与宾夕法尼亚州立大学的 Kiwan Maeng 教授共同就“使用计算内存进行差分隐私训练的系统架构”——一种利用具备计算能力的内存使差分隐私 AI 训练更加高效的系统架构——发表了演讲，介绍了一项核心技术，该技术减少了用于保护个人信息的训练过程中额外的计算负担和数据移动，从而提高训练速度和能效。
最后，AI Platform SW 的技术负责人 Juhee Lee 就“存储作为 LLM 服务的性能层”进行了演讲。

SK hynix 表示：“在这次 OCP 全球峰会上，最值得一提的是我们展示了下一代内存解决方案在真实系统中的运行方式。”他还补充道：“我们将继续追求技术创新，让 AI 技术能够以内存为核心不断进步。”