开放权重AI为何重要：芯片架构与EDA部署面临的机遇与挑战

要点速览：

本地推理和模型路由有助于管理成本并保护敏感数据，但芯片架构师必须考虑内存容量、持续性能、不断变化的模型以及部署安全。
对于 EDA 而言，模型质量取决于干净、可信的设计数据以及与工作流的集成，而不仅仅是选择更大的模型或微调其权重。
开放权重可以减少对专有 AI 服务的依赖，但它们并不会自动提供开放的训练数据、源代码或不受限制的使用权。

开放权重 AI 模型正在给芯片架构师带来新的挑战，因为快速变化的工作负载给内存、互连和计算灵活性带来压力。

关注点已不再只是峰值 TOPS。待办清单已经扩展到包括：为消耗内存的模型提供数据的最佳方式、在长上下文和多智能体推理中保持性能、支持快速变化的数值格式和稀疏计算，以及将模型、数据和工具隔离作为安全边界的一部分。模型架构可能在数周内改变，而芯片需要数年时间，因此赢家将是那些构建可适应的软硬件平台的人，而不是针对某个可能在流片前就已过时的基准测试进行优化的加速器。

大型数据中心并非 AI 驱动的科学进步的先决条件。科学与服务数百万用户的消费级 AI 平台有着不同的基础设施需求。开放权重 AI 模型——其训练参数公开可用——可以本地部署，有望扩大访问范围、提高计算效率并支持独立研究。

开放权重也引发了关于控制权、成本以及谁能基于 AI 技术进行构建的问题。

Expedera 首席科学家兼联合创始人 Sharad Chole 表示，发布权重可以减少厂商锁定，因为它允许用户自行托管模型或选择服务提供商。“无论是想使用服务还是自行托管，在由谁为你提供下一个 token 或由谁处理你的下一个请求方面，都不存在厂商锁定。但这还涉及地缘政治和投资层面。也存在对开放硬件的推动，就像 Meta 等公司所做的那样，以支持不同的竞争解决方案提供商。截至 2026 年 9 月，较大的开放权重模型主要来自美国之外，即欧洲或亚洲，而且我们正在迈向万亿参数模型。”

据 Arteris 战略营销副总裁 Guillaume Boillet 介绍，开放权重模型使训练后的参数可以下载，让用户能够在自己的硬件上运行和调整模型，而不必依赖提供商的 API。“它们不一定是开源的：训练数据、代码和使用权可能仍受限制。”

Axiomise CEO Ashish Darbari 表示，开放权重 AI 模型的发布公开了训练后的参数，开源发布的目标是公开完整的配方，而闭源模型两者都不公开。

具有代表性的开放权重发布包括 Meta Llama、阿里 Qwen、DeepSeek、Mistral、Google Gemma、Microsoft Phi 以及 OpenAI 的 gpt-oss 系列。Darbari 指出，OpenAI 称 gpt-oss-120b 可在单块 80 GB GPU 上运行，gpt-oss-20b 可在 16 GB 内存的设备上运行；两者都使用 MXFP4 量化。“这些规格说明了部署选项的范围正在扩大，但仅凭内存适配并不能确立实用性能。”

一些美国本土的 AI 公司使用知识蒸馏从较大的教师模型开发出更小的模型，但具体方法各不相同。较小的模型也可能独立进行预训练，或通过多种技术的组合来开发。大规模预训练在计算上仍然非常密集，而蒸馏和后训练则是模型开发过程中的重要环节。

Chole 表示，最大的模型仍在向万亿参数规模推进，而面向设备端或本地 AI 的模型通常被蒸馏成更小的版本。“并不是说我们突然会看到 1000 亿参数的模型打破所有基准测试纪录，”他说。他举了一个将 4000 亿参数的 DeepSeek-C 模型蒸馏为 80 亿参数的 Qwen 模型的例子，同时指出模型蒸馏本身并不是新技术。更关键的一点是，用户如今在模型规模、能力和部署方式上有很多选择，而最大的模型并不一定适合每一项任务。

Chole 指出，在被称为‘AI 模型的 GitHub’的 Hugging Face 上，过去两年间各大公司发布了大约 250 个开放权重模型，这还不包括量化变体或来自较小公司的模型。

但模型丰富并不等于就绪，要将不断扩充的模型目录转化为有用的设计智能，需要 EDA 团队提供可信的领域数据、工作流上下文以及严谨的基准真值。

从通用模型到 EDA 工作流
无论是商业模型还是开源模型，通用 LLM 都不是为芯片设计任务而构建的，Synopsys AI 与机器学习副总裁 Thomas Andersen 表示。“其中很多模型在常见任务上表现很好。它们非常擅长制作 PPT 和总结内容。它们显然也擅长编程，因为外面有大量代码。这些任务已经被优化到极致。但它们不一定适合硬件开发，甚至连 RTL 编程也不适合，因为现有的 RTL 数量远不及软件。正因如此，包括 EDA 供应商和客户在内的每一方都需要添加自己的数据，而这些数据显然是专有的。这就是与那些把公开知识纳入训练数据的模型之间的区别。无论是训练前还是训练后的能力，甚至在权重之外，都可以添加数据，这是一个重要的关键点。否则，它就是行不通的。这就像向聊天机器人提问一样。它并不总能给出正确的答案，因为它有相互冲突的数据，会搜索互联网，而人们什么说法都有。什么是基准真值呢？”

准确的结果既依赖于查询本身，也依赖于源数据的质量。

“源数据本身必须非常清晰、非常精确，”Andersen 说。“在互联网上，这样的数据并不存在。你上 Reddit 提问，人们会给出五种不同的回答。这就成了 LLM 的问题。而在我们的场景中，我们显然需要非常精确的数据。在企业环境中，情况有所不同。你对流程、工具等有完善得多的文档记录，所以会稍微容易一些。没有这些，就行不通。不过，对普通模型进行常规训练仍然是绝对必要的。”

尽管如此，开放权重模型在芯片设计中仍将占有一席之地。“开放权重模型只是意味着你拥有一个可以训练模型权重的 LLM 模型，”Andersen 解释道。“智能体是围绕这个 LLM 运转的一个循环，然后执行某些任务，所以它是达到目的的一种手段。训练模型有多种方法，这更像是调整答案的正确性，但它本身并不添加数据。还有其他添加数据的方法。一旦你拥有了一个像你作为人类那样无所不知的 LLM，那么智能体就只是意味着你正在构建一个智能体循环，它本质上优化你的工作流，像你作为人类那样执行一系列任务，而不是一次性完成。或者，你只是提出一个问题，然后它给出答案。”

模型与其周围工作流之间的这种区别，直接引出了一个实际的部署问题：EDA 团队应该如何在能力、成本和控制之间取得平衡，将每项任务路由到合适的模型？

Siemens EDA 执行副总裁兼 EDA IC 软件主管 Ankur Gupta 指出，任何对成本极其敏感的人，无论是大型芯片设计公司还是小型公司，都仍然希望进行优化。“他们愿意为最好的商业模型付费，只要它适合该任务，这样关键架构师就能解决最难的问题。这被称为模型路由。我们知道开放权重模型非常有用。它们很有效。EDA 公司正在试用它们。我们当然也在用。我们的许多开发人员正在广泛使用开放权重模型，因为你不需要为每个任务都支付一大笔钱。我在我们的客户身上也看到了这一点。他们已经收缩了向所有人开放最高强度模型的做法，并在内部进行模型路由。而我们还没有。”

Gupta 建议用冰山的视角来思考这个问题。“你在水面之上看到的是 GPU、成本、token 之类的。这出现在每个 CIO 的仪表盘上。它并没有消失。水面之下的东西同样重要。那就是将硅片连接到系统再到设施。其中存在损耗，你必须从中收回成本。总会有人想出如何让 token 成本变得非常可行，就像整个半导体行业一直以来的运作方式一样，比如构建功能并让这些功能变得更便宜。这只是时间问题。”

Rambus 的院士兼杰出发明家 Steven Woo 认为开放权重 AI 模型对芯片设计师非常有帮助。“看看 OpenAI 等公司凭借 Jalapeno 芯片并使用他们自己的工具取得的成功案例，他们拥有一个更小、更敏捷、能够更快速地进行更多迭代的团队。在九个月内设计出那款芯片并让它一次性运行成功，实在令人惊叹。我们知道这个领域的工作一直在进行，而且工具正变得越来越好。”

需要注意的是，企业必须掌控那些将自己与竞争对手区分开来的数据。“最初，当你必须在网页上访问这些东西时，并没有私密的、封闭的区域可以让公司确保其数据不会外泄，很多公司因此不愿让员工使用这项技术，”Woo说。“但业界听到了，并表示：‘好吧，现在我们要建立封闭区域，确保你的信息不会泄露。’如何设计芯片的总体思路——例如，编写RTL来实现某些功能、进行布局布线——外面有很多这样的例子，可以用它们来训练一个大语言模型或AI实体来做这些事。不同行业和不同公司在解决问题时有非常具体的方式。这些是真正不能外泄的，因为它们更像是商业机密。于是问题就变成：‘我如何把这些用更通用的数据集训练出来的模型进行调整——真正地微调——以适配我所做的事情和我的客户所关心的内容，而且这些内容不能离开封闭区域？’我希望这类问题能得到解决。"

开放权重AI模型在EDA工具流程中也可能有用，有助于控制成本。“成本是个大问题，我们希望客户付钱给我们，而不是付给AI供应商，”Cadence的AI fellow Chuck Alpert说。“我们的想法是，开放权重模型将帮助客户把成本控制在可控范围内。我们怎么做呢？如果你有一个开放权重模型，你可以把它部署在一台机器上，永远不会离开你的网络。如果你使用的是，比如Claude Opus [Anthropic的闭源专有模型]，你就必须离开你的网络。有些客户——尤其是那些对信息非常敏感的国防客户——所在的生态系统要求他们想使用智能体AI，但又不想离开自己的系统。这样的客户必须使用Openlayer [一个企业级AI评估、可观测性和治理平台]。目前还存在开放权重模型性能可能不佳的问题。它们正在进步，我发现其中一些已经相当不错了。但它们仍然落后，而对开放权重模型进行一些训练可能带来真正的改进和重要发展，我们正在积极研究这一方向。”

这里的关键之一是明确界定问题陈述。“如果你想想芯片设计是什么，它有一个庞大的、多物理场的部分，然后你把它提炼成一个数学模型，这个模型非常庞大——可能是10万行的晶体管模型，”Movellus的CEO Mo Faisal说。“在那之后，就只是矩阵乘法了。何时以及如何实现，我不确定，但它很可能是那些正在构建半导体专用模型的新创公司之一。他们可能会先开放那些较旧的东西，比如在180nm上训练的模型，你可以用它去流片，而不开放那些适用于更先进节点或更先进架构的东西。来自谷歌、微软或Meta这样的公司，可能会有一个惊喜。既然他们内部确实有自己使用的硅设计模型，为什么不能开放权重呢？”

这种可能性将讨论从开放权重模型能否服务于EDA，转向它们的商业模式如何决定这些模型部署在哪里——以及部署在什么硬件上。

区别特征
开放权重与闭源权重模型可以使用相似的底层架构。

“架构是一样的——相同的 transformer 块、相同的注意力机制、相同的量化技巧，”Quadric 首席营销官 Steve Roddy 表示。“芯片架构师看这两个模型，无法从计算图中分辨出区别。差异完全在于商业模式：一家厂商公开发布参数供下载，另一家则按 token 出售访问权。”

这一差异正是推动部署的关键。“实际上，中小型开放权重模型正是那些技术老练的用户——主要是工程师——下载并部署在自己硬件上的模型，而动机压倒性地是成本，”Roddy 说。“有些人在本地运行是为了让提示词数据保持私密，这在受监管的行业中很重要，但如今 token 经济性才是更大的驱动力。”

Roddy 预计闭源模型厂商会瞄准这部分本地 token 流量。“看到大型私有模型公司编排拆分式部署——一个中型前端模型运行在用户自己的硬件上，云端的大模型处理本地模型无法完成的任务——没有人会感到意外。这些大型模型公司绝对不希望让其他厂商或其他模型在本地运行，成为访问云端付费大模型的‘前门’。定价上的激励是显而易见的——对用户在自己的机器上、用自己的电力生成的 token 提供大幅更便宜（甚至免费）的价格，并大幅削减数据中心租金。当一条随口的推文（Sam Altman，2025 年 4 月）提到用户打‘谢谢’的成本高达数千万美元时，把推理卸载到边缘的紧迫性就再明显不过了。”

这一切都对本地机器提出了压力，要求其运行更大的模型，或运行那些被拆分成更小模型的模型部分。“世界无法足够快地建造数据中心，以后也不会。但我们可以把一台家用电器大小的设备插进每个家庭和办公室，”Roddy 说。“这开辟了一个新的计算品类——智能体计算机，一种以运行 AI 模型作为主要工作负载来架构的计算机，而不是作为附加在一台为其他用途设计的手机或 PC 上的事后补丁。今天的设备把推理当作客人对待。下一代将把它当作主人。芯片架构师应该问的问题不是‘如何在我的 SoC 里加一个 NPU？’，而是‘当模型执行成为主要任务时，系统应该是什么样子？’关键在于内存带宽和容量，而不是 TOPS；是持续吞吐量，而不是突发基准测试；是针对持续而非间歇性负载的散热设计；以及一个能够每隔几个月吸纳新模型架构而无需重新流片的软件栈。”

这里的一个问题在于芯片与模型周期之间的错位。“如果你在为特定模型设计芯片，而模型每周甚至在最好的情况下每月都在变化，而你的芯片设计周期在最好的情况下也要 2.5 年，那就很难看清如何在这种时间跨度上实现衔接，”Ayar Labs 产品管理总监 Vishal Chandrasekar 说。“与此同时，2019 年制造的芯片至今仍有价值，因为现在你可能受到算力限制。所以今天发布的模型，即使两年内又出现了 10 个新模型，仍然对某些应用有用。”

这种错位使适应性成为核心设计要求——这也界定了芯片架构师在确定采用开放权重 AI 平台之前必须回答的实际问题。

ChipAgents 首席产品官 Solaiman Rahim 表示，芯片设计者应该明白权重是开放的，任何人都可以使用。“不仅有权重，还提供训练模型所用的任务列表和数据集。所以，任何人想重建这个模型都可以。开放权重模型的目标是给你一个基础模型，你可以根据需求进行微调，而性能和成本因模型而异。人们认为开放权重模型性能差、成本低，但事实并非如此。看看最新的开放权重模型 GLM 5.3，性能相当不错，达到 70% 到 80% 的水平，但成本也很高。并不是因为它是开放权重的，你就必然得到最低的性能和最低的成本。许多开放权重模型的成本和性能实际上取决于你使用的是哪个模型。但作为基础模型，它很适合在其上进行微调并构建你的工作流，以获得你想要的结果。你还需要弄清楚如何将开放权重模型集成到你的基础设施中。”

部署可以在本地，也可以在云端环境中（例如虚拟私有云），这取决于安全要求以及公司是否愿意与其供应商共享数据。“如果你使用 AWS，他们的云非常安全。许多客户在 AWS 或其他云供应商中使用 VPC，所以你需要决定想如何部署该模型，”Rahim 说。“仅凭模型本身不足以开始一个高性价比的设计任务。你需要自己构建本体层。你必须构建工作流。我们的平台会自动完成这些，让你不必把时间和投资花在重新发明 30 年前 EDA 的构建方式上。当每个人都自己做综合时，出现了 Design Compiler，它告诉人们用一个工具就能完成，不必重新发明一切。同样的事情正在发生。我们有自己的本体、自己的工作流和自己的模型层。我们的模型层可以根据任务自动为你挑选最佳模型。”

Arteris 的 Boillet 表示，架构和设计团队还应考虑的其他问题包括：定义系统必须支持的模型范围，而不是预测单一的模型规模。“重要的变量包括活跃参数数量、精度、上下文长度、模态、并发性和延迟。团队应该问：一个较小的专用模型是否足够，工作集将驻留在哪里，以及在真实负载下能耗如何变化。有意义的衡量标准是每个有效结果的能耗，而不仅仅是 TOPS 或 TDP。”

综合来看，这些工作负载变量使模型选择变成一个系统架构问题，对内存、算力、互连和验证都有着直接影响。

Axiomise 的 Darbari 指出，如果更多推理工作从超大规模数据中心迁出，可能会把推理芯片转向机构服务器、工作站、笔记本电脑以及本地运行 10 亿到 1000 亿参数专家混合模型的边缘 SoC，这带来诸多架构上的影响，例如：

内存带宽而非 FLOPS 成为限制性约束；
稀疏激活改变运算方式；
ISA 和数据通路中的低精度支持；
异构 SoC 作为交付载体；
迷你冰箱大小的服务器成为真正的产品品类，以及
验证与 PPA 签核需应对 MoE 式稀疏流量、MXFP4 运算、128K 上下文下的 KV 缓存压力以及多智能体并发，而不仅仅是稠密 GEMM。

当团队评估不仅要将模型装进内存、还要在日常工程工作流中实现流畅响应所需的条件时，这些架构优先级就变得具体起来。

“200 亿到 300 亿参数的能力较强的语言、视觉语言和推理模型，在量化后如今可以装进大约 16 到 24 GiB 的内存，”Boillet 说，“在我自己在一台 36 GB MacBook 上进行的合成基准测试中，这个范围内的模型都能装下。但装得进内存并不等于能高效运行。要达到在日常工作和智能体工作流中取代云模型所需的响应能力，成本仍可能攀升至 1 万美元以上。芯片架构师需要针对预期应用来规划算力、内存和互连的规模，同时为模型组合的变化留出余地。开放权重并不改变底层模型运算。它确实让用户可以更改精度、稀疏性、微调和模型结构，因此内存带宽、数据搬运、数值灵活性和服务质量比单纯的峰值 TOPS 更重要。参数总量相同的稠密模型和专家混合模型对系统造成的负载可能截然不同。安全优先事项包括对模型文件和更新进行身份验证、保护内存和 DMA 路径、隔离工作负载以及支持回滚。”

结语
开放权重 AI 不会消除芯片架构师面临的权衡取舍，但会让这些权衡更加明确。成功的平台将围绕可适应的模型组合、持续的内存和互连性能、现实的能耗与延迟目标，以及从经过身份验证的权重延伸到运行时、工具和数据的全方位安全来设计。对 EDA 团队而言，优势并非来自孤立地选择开放或封闭模型，而是来自将合适的模型与可信的领域知识、严谨的布线，以及能够在流片之后长期演进的软硬件系统相结合。