跳到正文
TechCrunch · AI· Sarah Perez·· 4 小时前AI 评分52

American Express 推出 Intent Intelligence Framework 防止 AI 智能体越权购买

Amex introduces a framework to prevent AI agents from making unauthorized purchases

AI 导读

American Express 推出 Intent Intelligence Framework,在 AI 智能体完成交易前捕获并验证消费者的购买意图,希望成为 AI 交易的行业标准。

正文 · AI 翻译

个人 AI 智能体越来越多地代表用户进行交易,但鉴于大语言模型的非确定性特性,AI 机器人容易做出不该做的事情。在这种情况下,这就带来了 AI 出错并执行未经授权交易的可能性。

为了防患于未然,美国运通推出了一套新框架,旨在 AI 智能体完成交易之前,捕获并验证客户的购买意图。

Amex 表示,这一理念是,应当有办法确保客户的购买指令贯穿整个交易生命周期,从购买本身到后续的所有环节。

该框架被命名为“Intent Intelligence Framework”(意图智能框架),公司希望它能成为 AI 驱动交易的行业标准。

Amex 智能体合作与战略副总裁 Hannah Bozian 在接受 TechCrunch 采访时解释说:“这些新交易将涉及消费者、商户和智能体三方。”她表示,公司希望确保智能体交易仍然“无缝、可信、安全,正如我们的持卡会员所期望的那样。”

该框架的发布紧随公司四月推出的 Amex Agentic Commerce Experiences(即 ACE Developer Toolkit)之后,该工具包包含多项服务,现在其中新增了意图框架。

Amex 表示,尚未看到因智能体商务导致的争议增加,但公司希望在这种商务模式规模化时,主动构建这项技术。部分原因在于,消费者已表示愿意尝试智能体商务。

Amex 告诉 TechCrunch,在最近的 Amex Trendex 报告中,66% 的受访美国消费者表示,他们在未来 12 个月内可能会使用 AI 智能体来研究产品或服务的最优价格,61% 的受访者表示可能会用它来获取产品或服务推荐。

首先,Amex 的新意图框架从一个 Create Intent API 入手,它将捕获客户的购买指令以及他们可能在请求中包含的其他限制条件,例如商户名称、最高预算和其他产品偏好。Bozian 表示,意图的收集方式可能因所涉及的 AI 模型而异,但计划是让该框架足够灵活,以支持所有智能体商务模式。

随后,客户验证自己的身份,并对智能体捕获的意图予以确认。

接着,会生成一个 Intent ID(代表该意图的唯一标识符),以及一个 Proof of Intent Token(意图证明令牌),其中包含客户的高层级限制条件。该令牌用于获取一个安全的数字支付凭证,智能体将在结账时使用该凭证,而不是客户的实际信用卡号。Amex 表示,这样一来,交易将保持安全,同时与客户授权智能体的操作保持一致。

Amex 表示,这个 Intent ID 和令牌还可以在交易流程的不同环节中使用,帮助企业管理欺诈防范和争议解决等领域。

Bozian 表示:“我们的方法与其他人的实现不同之处在于,它将意图更早地引入交易流程中。这一点很重要,因为它有助于在风险发生之前降低部分风险。”她举了一个例子:顾客让智能体购买一双 9 码的白色 Nike 运动鞋,但智能体却提交了购买 Adidas 鞋子的请求。在这种情况下,Amex 可以阻止该交易完成,因为智能体出了错。

Bozian 还指出,虽然如今许多智能体在购买前会征求顾客的同意,但 Amex 预见在未来某些情况下,智能体的行动可能会更加自主。例如,消费者可能允许其智能体重新订购家用必需品,如纸巾或卫生纸——这些品类中唯一真正的限制是价格和尺寸,而不是商家或品牌。在这些场景中,让技术在流程中执行额外检查是有意义的,以确保交易符合顾客的意图。

她指出,记录哪个智能体在何时获得了什么授权,也有助于应对以智能体名义实施的欺诈。

Amex 已经在与支付生态系统的合作伙伴讨论实施 ACE,其中包含带有 Amex 支付凭证的智能体令牌,以及开发者工具包的其他部分。

该公司表示,随着智能体商务生态系统的发展,它计划继续积极开发 ACE。

10 月 13 日,在 TechCrunch Disrupt 2026 的行业舞台上,美国运通智能体合作与战略副总裁 Hannah Bozian 将更详细地讨论该公司全新的“意图智能框架”(Intent Intelligence Framework),以及它对智能体商务世界的意义。

当您通过我们文章中的链接购买时,我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

来源:TechCrunch · AI · techcrunch.com