“苦涩的教训”提出者 Richard Sutton：LLM 扩展狂热者也需要一堂“苦涩的教训”

“苦涩的教训”的提出者给大语言模型爱好者上了一课，同样苦涩。其他研究者也纷纷表示赞同。

在最近的一篇帖子中，图灵奖得主 Richard Sutton 表示，仅靠原始算力不足以实现智能。AI 科学需要巧妙的新方法，而且“远未完成”。他的帖子在 X 上的 AI 社区引发了广泛讨论，表明 Sutton 触动了人们的神经。

在他那篇著名的 2019 年文章《苦涩的教训》中，Sutton 认为，能够随算力扩展的通用方法终将战胜精心的人类工程化方法。重要的是能随算力一起增长的理念，而不是依赖人类假设的方法。

Sutton 的立场并不新鲜。在早先的言论中，他就批评过单纯扩展大语言模型的局限。他将合成数据称为一个“大错误”，因为现实世界无限复杂，对它的任何模拟都只是“微观的”。人类专长作为一个瓶颈，阻碍了真正的扩展。

相反，他呼吁打造拥有世界模型的智能体，持续从自身经验中学习。Sutton 认为，世界远比互联网文本所能捕捉的复杂得多，而今天的语言模型在训练结束后就不再学习。所需要的是在不破坏旧知识的前提下持续学习。

LLM 受到审视

AI 研究者 Jerry Tworek 和许多人一样离开了这家主要 AI 公司 OpenAI，去探索新的 AI 方法，他对 Sutton 最新的表态进行了背景解读。Tworek 写道，苦涩的教训依然成立，但投入模型训练的算力越多，算法就越重要。

有些算法能扩展，有些则走入死胡同，而扩展的许多维度仍完全未被探索。Transformer 扩展的暂时成功，加上对苦涩的教训的误读，“已经以奖励劫持的方式污染了整整一代科学家的头脑。”

AI 研究者 Jayden Teoh 则补充了另一个视角。他说他多次看到苦涩的教训阻碍学术研究，一些有前景的想法因偏离其精神太远而被否决。Teoh 认为这不是 Sutton 的错，而是对他原始观点的误读。

Teoh 还指出，事后看来似乎没有遵循苦涩的教训的那些想法，往往后来被更简洁、更通用的方法所取代。他说，这并不意味着那些想法是错的；它们在当时往往正是推动进步的关键。他希望研究界不要在这些工作刚出现时就将其否定。Teoh 写道：“一个想法并不一定要在扩展中永远存活下去，才能成为对 AI 进步的重要贡献。”

Sutton 对新学习方法的呼吁与 Tworek 对盲目扩展 transformer 的批评之间的张力，正体现在一波不断壮大的初创企业浪潮中。在最新一期 Frontier Radar #5 中，我们追踪了 45 家押注于这些空白的新 AI 实验室。

Tworek 本人运营着其中一家实验室 Core Automation，寻找预训练和强化学习之外的学习算法。这些创始人的共同点（包括带着 Oak Lab 的 Sutton）在于，他们相信 AI 会强大得多，但怀疑仅凭如今的方法就能实现这一目标。

仍有一些人押注 LLM 扩展

业界知名领袖的看法则截然不同。OpenAI CEO Sam Altman 认为大语言模型的扩展远未走到尽头，并指责 LLM 批评者过于笃定扩展不能做什么，从而拖慢了整整一代研究人员的步伐。

作为证据，他举出了 OpenAI 最近证伪了一个数学家长期未能攻克的数学猜想的模型。他认为世界模型很有用，例如在机器人领域，但表示数据显然支持进一步扩展 LLM。

Anthropic CEO Dario Amodei 也持类似观点，称扩展的进展是一道没有尽头的彩虹。作为两家整体技术路线都押注于此的 AI 公司的 CEO，Amodei 和 Altman 显然带有偏向性。

无炒作的 AI 新闻 – 人工精选

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、每年六期独家 "AI Radar" 前沿报告、完整档案访问权限，以及评论区的访问权限。