跳到正文
AMD 芯片与算力·· 20 小时前AI 评分49

AMD:从回答问题的 AI 到能行动的 AI,物理 AI 如何重构性能标准

From AI That Answers to AI That Acts

AI 导读

AMD 指出,AI 正从云端走向物理世界,性能评估需从 TOPS 峰值算力转向从传感器输入到物理动作的端到端系统级衡量,平均延迟不够,尾延迟与抖动同样关键。机器人需要把感知推理交给 GPU/NPU、实时控制交给 FPGA/自适应 SoC、系统协调交给 CPU,像人体一样构建分布式实时架构。

正文 · AI 翻译

AI 的第一个高光时刻发生在云端。下一阶段则在现实世界。

从云端 AI 向物理 AI 的转变正迫使企业重新思考其对性能的假设。为训练和推理而建立的指标,在 AI 必须感知、推理并控制与人类共同作业的机器时,只能说明部分问题。在这类系统中,性能成为系统级问题,重塑了机器人的度量方式、设计方式,乃至最终驱动它们的计算架构。

AMD 在机器人领域拥有二十年的深厚积淀,涵盖工业机械臂、自主移动机器人、手术系统和航空航天平台。在这些系统中,我们交付了机器视觉、传感器融合、确定性电机控制和功能安全。AI 正是在这一基础上构建的。

不断变化的性能定义

物理 AI 系统不只是产生答案。它们要采取行动。这改变了什么才是重要的:响应能力、可预测性、功耗、安全性,以及在现实世界条件下可靠运行的能力。时序是这一切的核心。

一个延迟到达的控制决策不是性能问题。它是一种可能导致碰撞、不稳定或不安全行为的失效状态。

在人形机器人上,这一点尤为明显。它们比我们大多数人预想的更早被部署到工业环境中,而且越来越多地在人类附近工作。

在与机器人 OEM 的交流中,我听到最多的需求并不是峰值算力。而是能够将先进的 AI 模型与确定性的实时控制并行运行——在系统层面将智能与有时间边界、可预测的响应相结合。在物理世界中,错过一个时间窗口不是延迟——而是一种不安全的后果。

度量错了对象

业界仍在为错误的数字进行优化。TOPS(每秒万亿次运算)对于物理 AI 来说是一个不完整的指标。它告诉你能投入多少算力。但它不能告诉你一个系统能否在规定的时间窗口内感知事件、做出决策并采取正确的行动。

这需要计算引擎、内存、网络、传感器和软件作为一个协调一致的系统来运作——具备足够的内存带宽,让数据在需要的时间和地点持续流动。如果数据搬运、调度或其他环节导致错失截止时间,单个处理器上的快速模型并不能造就一个快速的系统。

这就是为什么物理 AI 需要端到端地度量——从传感器输入到物理动作。平均延迟是不够的。尾延迟和抖动同样重要,因为单次尖峰就可能让控制回路失稳。

模型基准测试也有同样的局限。你可以整天做规划,但如果机器人错过了行动的时间窗口,规划的质量就毫无意义。经常打破时序预算的并不是模型。而是各个环节之间的所有事情:排队、调度、内存拷贝和数据搬运。

一台机器,不同的工作负载

物理 AI 不是单一的工作负载。感知和推理是面向吞吐量的,能很好地映射到 GPU 和 NPU 上。实时控制是由截止时间驱动的,需要确定性执行,这正是 FPGA 和自适应 SoC 的强项。CPU 则负责让一切保持同步的系统协调。

从身体到大脑,这些工作负载同时运行,但它们解决的是根本不同的问题,需要不同的计算架构。

将每一路传感器数据流和控制决策都经由单个处理器处理,会在带宽、能耗和延迟方面造成限制。这些是系统级的限制。

像构建身体一样去构建

把合适的算力放到合适的工作负载上,靠近数据、靠近执行动作的地方。

在实践中,这意味着按照描述人体的方式来构建机器人。一个负责感知、推理和规划的大脑。一条在整个系统中传递时间敏感通信的脊柱。确定性地执行运动的关节。管理复杂灵巧操作的手。以及位于边缘的传感器。

其结果是一个由协同工作的节点组成的分布式实时系统,而非单个处理单元。

安全性是系统的一种属性

无论这些功能是集中式还是分布式的,安全性都取决于整个系统的行为方式,以及——最重要的——当出现故障时系统的响应方式。

这从设计之初就改变了设计决策:决策在哪里发生,故障如何被隔离,以及哪些功能必须在严格的实时期限内响应。

冗余。优雅降级。在全局约束下进行本地决策。这些能力帮助系统保持受控行为、达到安全状态,并且在许多情况下,即使主 AI 算力失效,系统仍能继续运行。

这是一个行业性挑战,横跨机器人、汽车和工业自动化领域。它需要硬件、软件和系统架构协同工作。安全性并非叠加在系统之上;它定义了系统应该如何构建。

AMD 帮助设计者在自适应 SoC 和 x86 平台上构建这些架构。自适应 SoC 提供专用的锁步实时处理和用于确定性监控与控制的可编程逻辑,并由符合 IEC61508、ISO26262 和 ISO13849 标准的安全认证硅片以及经认证的设计流程提供支持。诸如 ISO/CD 25785-1 之类的新兴工作凸显了人们对动态稳定工业机器人系统级安全性的日益关注。这些系统需要在感知、计算、控制和故障响应方面具有可预测的行为,这使得系统架构从一开始就是一项基础性的安全决策。

在 AMD x86 平台上,Xen 是一款轻量级 hypervisor,可将工作负载彼此隔离,通过分离具有不同安全要求的工作负载,并在内存、设备和共享计算资源周围提供受控边界,从而支持混合关键性架构。

AMD 和 Xen 社区正在推动 Xen 在 AMD x86 和 Arm 平台上获得安全认证。这些贡献不仅限于隔离,还涵盖支持认证所需的需求、测试、故障注入和证据。安全概念审批已经完成,相关工作正在向最终认证推进。

我们构建了什么

正是这种系统级视角塑造了 面向机器人的 AMD Kria™ AI 解决方案,它提供了一系列可扩展的系统级模块产品:

  • Kria AI SOM 和机器人载卡,由 AMD Ryzen™ AI Embedded X100 系列处理器驱动。

  • AMD Kria™ AI 机器人开发者平台,一个结合了 CPU、GPU、NPU 和 FPGA 算力的开放集成平台。

  • AMD 机器人软件套件和开放的 AMD 机器人合作伙伴网络。

Kria AI 用在大脑中。AMD Versal™ 自适应 SoC 用在脊柱中。AMD Zynq™ SoC 用在关节和手中。AMD Spartan™ FPGA 用在传感器上。Foundation Robotics 和 Generative Bionics 如今正在采用这些产品进行开发。

第三方的测试与分析印证了我们的信念:物理 AI 系统应当在系统层面进行衡量。Kria AI SOM 每秒可持续完成 8,000 次控制决策,同时将 AI 推理时间控制在 100 毫秒以内。1 在代表性的机器人工作负载中,AMD Ryzen AI Embedded 配置与 NVIDIA Jetson T5000 相比,实时控制的准时可靠性最高提升 3.4 倍2,空闲算力容量最高提升 1.6 倍3。来自 mimik 的另一份独立分析发现,其支持的并发智能体数量最高可达 2.3 倍。4

在机器人领域,“开放”不能只是纸面上的标准。AMD Robotics Software Suite 是一个基于 AMD ROCm™ 平台和 ROS 2 操作系统构建的开放、可移植的软件栈,支持 PyTorch、ONNX 和 MoveIt。Kria 开发者平台的硬件规格同样开放,让客户能够灵活地与 ODM 合作伙伴协作,围绕 AMD 硅片、以其产品所需的外形规格进行构建,而不会受到供应商锁定。

峰值算力固然重要,但它只讲述了故事的一部分。能够优化整个系统、并将每项工作负载映射到合适计算引擎的开发者,才能打造出在关键时刻可靠运行的机器人。峰值算力可以带来令人印象深刻的演示,而系统级性能才能将其转化为产品。

来源: AMD 芯片与算力 · newsroom.amd.com