MIT Technology Review 分析：让互联网更适合 AI 智能体可能使其对人类更糟

本文最初发表于 The Algorithm，这是我们关于 AI 的每周时事通讯。想第一时间在收件箱收到此类报道， 请在此注册。

直到不久前，你还可以把互联网用户简单分为两类：机器人和人类。长期以来，网站一直允许机器人执行自动化任务，例如抓取网页内容，但有哪些规则约束着它们能访问什么、如何行事。毕竟，网络主要是为人类设计的，即使我们偶尔需要通过解谜和验证码来证明自己不是机器人。

但个人 AI 智能体的出现正在彻底颠覆这一切。这些智能体可以在网上替你办事，比如预订机票或酒店。随着 OpenAI 的 Dots 和 Meta 的 Muse 等应用相继推出，它们最近已被大规模投放使用。Muse 在上线首月即被下载 500 万次，而智能体带来的网络流量从 8 月到 9 月翻了三倍。 

在一个主要为了让人类优先使用的互联网上，这些智能体与人类访客的混行情况并不乐观，许多网站封锁了消费者派去谈判价格或规划假期的 AI 智能体。尽管如此，如果对智能体的需求持续增长，互联网将越来越多地为它们而非我们重新设计。 

之所以会有这些变化，是因为智能体确实标志着第三类网络访客的诞生。它们当然不是人类，而且以机器速度使用互联网。但它们也不完全是机器人，因为它们是代表个人去执行任务的，而这些任务可以完全合法且有用。它们只是比人做得更快而已。 

由于智能体无法套进我们现有的区分机器人与人类的体系，一些平台（尤其是安全意识较强的那些）干脆选择将其完全封禁。《TechCrunch》最近报道，人们在将智能体部署到从必胜客到 Yelp 等各类网站时遇到了麻烦，Yelp 不允许 AI 预订餐厅座位。亚马逊已经封锁了 Muse 的智能体，并正与 AI 初创公司 Perplexity 打官司，以阻止其智能体。虽然法官最近做出了有利于 Perplexity 的裁决，但亚马逊已提起上诉，辩称 AI 智能体威胁其广告业务，因为它使人们更难区分哪些广告是被人类看到的，哪些是被机器人看到的。

这些封锁让早期采用者颇为恼火，但宾夕法尼亚大学沃顿商学院副教授 Ethan Mollick 预测，这很快将影响整个网络。例如，一旦“可以派 AI 智能体去申请退款或谈判价格”成为众所周知的事情，智能体就会涌入客服部门，使其瘫痪到真人无法使用的地步。“当智能体不被允许代表他们做这些事时，人类最终会非常恼火，”他最近在 LinkedIn 上写道。

如果对个人智能体的需求继续增长，平台会找到放行它们的办法。尤其是因为智能体网络流量的绝大部分都流向了电商网站，这意味着如果平台允许大批新 AI 智能体代表真人购物，它们就有钱可赚。事实上，电商巨头 Shopify 已经在欢迎智能体，为它们提供了专属的结账通道，绕过为人类设计的页面。 

紧迫的问题在于，在这一过程中，我们普通人所使用的互联网会变成什么样。我们已经习惯了一个这样的网络：尽管它日益被设计用来攫取我们的注意力，但人类至少仍是它的目标用户。但这个互联网可能让位于一个为智能体而优化的网络——这些智能体最终会在数量上超过我们，而留下的人类只会过得更加痛苦。

这可能如何发展？也许网站作为真实用户的落脚点会日渐荒废。想亲自浏览和比较产品的人类会遇到更糟糕的界面。验证系统并不完美；想象一下，你不断被要求验证自己是人类而非智能体（而且，嘿，也许你还需要扫描虹膜来做到这一点）。你想要的那件毛衣不再有一个人人相同的标价，而是向不同人的智能体显示不同的价格。你永远无法知道智能体的推荐是否受到了广告或平台佣金的影响。

这与 Google、Anthropic 和 OpenAI 所承诺的未来相去甚远——在那个未来里，AI 智能体将赋予消费者更大的权力和谈判筹码。但这一承诺并非异想天开。智能体确实能够真正帮助人们，例如处理虚假医疗账单，或研究更实惠的汽车保险。 

它们能否真正被用于这些目的，取决于为智能体与网站交互的方式设定了什么规则，以及究竟允许它们做什么。 

这些规则仍在制定之中。其中一些将造福我们所有人——例如，无论智能体在网上何处漫游，消费者和企业都不希望信用卡信息被它们随意处置，因此保障智能体更安全的规则是件好事。而那些更具争议的规则，比如企业能否在其网站上阻止智能体，或阻止它们为消费者谈成更优惠的交易，将决定这个网络究竟会成为为我们服务的智能体的高速公路，还是与我们作对的智能体的高速公路。