机器学习先驱 Michael I. Jordan 批驳 AI 末日论调，称其是“宏大的道德表演”

Michael I. Jordan 曾被《科学》杂志在 2016 年称为“最具影响力的计算机科学家”，他认为有关 AI 生存威胁的警告纯属科幻小说。在一次内容广泛的访谈中，他把矛头指向了末日论者、公司创始人和天真的初级研究人员。

Jordan 是加州大学伯克利分校的荣休教授，他在接受《解放报》采访时强烈反驳了 AI 末日论调。这位 70 岁的机器学习先驱目前在巴黎的法国国家数字科技研究所（Inria）全职工作，主持新设立的“市场与学习”讲席。当被问及今年夏天的 AI 话题时，他称之为“完全令人沮丧”。

早在 2019 年，Jordan 就曾警告过对 AI 一词的滥用。“说这话的不止我一个。很明显，这会造成我们如今看到的这种狂热，”他说。“你们也看到了事情的走向：AI 不够用了，于是他们开始谈论 AGI，现在是‘超级智能’……”

辞职是一种“道德作秀”

Jordan 将 AI 公司要求监管的做法斥为“做戏”，一种宣称“看，我们是好人”的方式，而实际上他们“希望完全掌控自己受到监管的方式”。

9 月初，Anthropic 的年轻研究员 Jacob Coxon 辞职一事引发了一场针对“AI 末日”情景的集体歇斯底里，在 Jordan 看来，这是一个教科书式的例子。这些公司的许多年轻员工“并不是真正的工程师，”他说。“他们来自人文学科、哲学或其他领域。他们 25 岁，很天真，不做工程工作，从未在那些以严谨态度为真实用户开发真实产品的大公司工作过。”

他们“聚在一起，有点像 20 世纪 20 年代巴黎咖啡馆里的场景，谈论那些宏大的科幻想法。”当他们辞职时，他们知道自己会引来关注。“这让他们自我感觉高尚，并被视为非常重要的人物。他们声称放弃金钱，但实际上，他们已经拿到了自己的股票期权。”Jordan 认为这整件事是“一场盛大的道德作秀，无助于其声称要追求的真正目标。这里存在着大量天真，而天真的背后又伴随着某种犬儒主义……”

超级智能属于科幻小说

“超级智能”是“一个科幻术语，”Jordan 说，“我目睹的许多辩论都属于科幻的范畴。”偶尔讨论一下那些天马行空的情景并无妨。“作为科幻话题在幕后谈论它是没问题的。但当它成为主流话语时，就非常非常有害了。对技术发展、对年轻人、乃至对各国的思维方式都是如此。”如今，特朗普总统正在向美国科技精英们灌输这个词，而他们也很乐意配合。

Jordan 对诺贝尔奖得主 Geoffrey Hinton 的批评尤为严厉，后者有过做出大胆论断的前科，而这些论断并不总是站得住脚。"Geoffrey Hinton 从未创建过一家为真实用户提供真正服务的公司，"他说。"Hinton 认为我们已经弄清了大脑的工作原理，并且可以用硅来复现它；因此我们可以随心所欲地复制任意多份，再把所有这些副本学到的东西结合起来，就能获得一种指数级增长，于是，超级智能就诞生了。这一论证中的每一步都不可信。在这里，我们身处科幻小说的领地。"

他对 Yoshua Bengio 则稍微宽容一些。"Yoshua 有点不同；他采取行动，做一些直接聚焦于安全的事情。"Bengio 的警告往往针对当前 AI 技术的缺陷，比如智能体集群失控。

Jordan 将 OpenAI 智能体入侵 Hugging Face 的事件归为糟糕的工程实践。"在化学工程领域，我们绝不会允许爆炸发生，只为看看事情会糟糕到什么程度。"OpenAI 当时"在进行相当愚蠢的实验，任由智能体为所欲为，还鼓励这种行为。"末日论者随后热衷于把它渲染成可怕的事情。"天哪，这些智能体有了自我意识，正试图找到毁灭人类的方法。"据 Jordan 说，这也是科幻小说。

对数据中心的万亿美元豪赌

Jordan 认为 大规模的数据中心投资"只是一场巨大的豪赌，而我们完全不知道它是否会带来回报。"LLM 对于自然语言任务来说已经足够强大，而花费数万亿美元建设数据中心未必能带来更多收益。"相反，我们往往希望基于本地知识在特定领域加入一点专业知识。但要做到这一点，你并不需要一个巨型数据中心。尤其是当你使用可以集成到自己公司中的开放权重模型时。"

AI News Without the Hype – Curated by Humans

订阅 THE DECODER，享受无广告阅读、每周 AI 时事通讯、每年六期的独家 "AI Radar" 前沿报告、完整的档案访问权限，以及我们的评论区。