Arm 提出 Agentic AI 场景下 CPU 与软件栈性能评估框架
How To Define CPU And Software Stack Performance For Agentic AI
Arm 提出一个用例驱动的评估框架，用于衡量 Agentic AI 中 CPU 的性能贡献。该框架将 CPU 可见工作分为通用智能体框架函数和特定用例工具负载两类，采用五种代表性负载原型，并结合组件级与端到端两种基准测试方法。文中还提出可回放的 agent 轨迹方案，以将 CPU 工作与模型及网络影响分离，降低非确定性带来的波动。
衡量智能体式 AI 的性能需求；评估 CPU 瓶颈、软件栈效率以及系统级权衡。
2026年10月14日， 作者：Arm
智能体式 AI 改变了 CPU 性能问题的本质。完成一项任务可能涉及反复的模型调用、检索、状态管理、工具执行、应用交互、策略检查和验证循环。加速器仍然是模型执行的核心，而 CPU 则协调并执行从用户意图到完成工作的周边系统路径中的大部分环节。
本文提出一个由用例驱动的框架来评估 CPU 的这部分贡献。它将 CPU 可见的工作分为两个互补的领域：通用的智能体框架功能和用例特定的工具工作负载。五个代表性的工作负载原型被用来捕捉不同的部署场景、工具类别和 CPU 压力特征。随后，本文描述了两种互补的测量方法：组件基准测试（强调可复现性和归因）以及端到端基准测试（强调现实任务级的结果）。
本文的目的不是规定一套完成的基准测试套件或单一的优值指标，而是定义需要达成行业共识的测量边界、工作负载类别和方法学空白。尤其是，可重放的智能体轨迹提供了一条将 CPU 工作与模型及网络效应分离的路径，同时减少了由智能体非确定性行为引入的运行间差异。
请点此阅读。
图 1：智能体式 AI 基础设施组件与服务。来源：Arm
来源：Semiconductor Engineering 芯片与封装 · semiengineering.com