Anthropic 联合创始人 Jack Clark 在 IMF 演讲称奇点已经开始

欢迎阅读 Import AI，这是一份关于 AI 研究的新闻通讯。Import AI 依靠 arXiv、卡布奇诺和读者的反馈运转。如果你想支持我们，请订阅。

这是我于 10 月 17 日星期六在曼谷举行的 IMF 会议上的演讲。这篇演讲的灵感来自读者们今年看到我持续关注的大趋势：AI 开始在人类科学的前沿运作，有时甚至是自主运作。尽管我们对细节可能存在分歧，但我认为很明显，我们已处于奇点的早期阶段，我希望利用发表 Per Jacobsson 讲座的这个难得机会，告诉在场的经济学家、银行家和政策制定者们，他们应该预期未来会出现重大而迅速的变化。在这次演讲中，我主要聚焦于人类如何在我们保持适当的前瞻与克制的前提下分享 AI 的红利，而我将在接下来的几期中进一步阐述奇点的利害关系以及我们将共同面临的风险。

正如我在演讲中多次提到的（其中有些是即兴发挥，未收录在此）——我对自己的这份责任极为认真。我发现自己既是 AI 领域正在发生之事的叙述者，也是这些事情的当事智能体，还是穿梭于多个社区之间的翻译者。在这一切之中，我力求保持真实，并对自己的责任坦诚以待。这是一个永远在进行的过程。

感谢大家的阅读。这样的演讲在很大程度上取材于这份新闻通讯，而这正是我尝试每周为大家提供信息的努力。感谢你们的阅读。

***
事件视界之内：为什么每个人都应该认真对待 AI 进展大家好，感谢各位的邀请。能来到这里是我的莫大荣幸。

首先，我应该列举一下我的相关资历：我是一个人类。全世界只有一个我。我花了将近 40 年的时间才积累起发表这篇演讲所需的阅历。稍后我会再回到这些资历上来。

我的整个职业生涯，一直围绕着寻找那些似乎关乎世界未来的信息，然后把它们告诉全世界。二十年前，我以记者身份开始职业生涯，专注于数据中心。通过这项工作，我对 AI 痴迷到如此程度，以至于在 2016 年离开新闻行业加入 OpenAI，几年后又联合创立了 Anthropic。从那时起，我就一直努力说服世界：有朝一日，AI 系统可能会变得如此强大，以至于能够改变国家安全、改变这个星球的经济轨迹，或许最终获得构建自身的能力。

而现在，这一时刻已经到来。AI 正在改变国家安全，正在改变世界的经济轨迹——正如我们在这里的许多场合所听到的那样——而且它正在为自己后续的开发做出贡献。

当然，你们中的许多人已经知道这一点，而且你们不得不将 AI 视为塑造你们的世界和工作的众多不稳定力量之一来加以追踪。

我今天要在这里说明的是，AI 正走在一条带来比我们预期更多的变革的道路上，我们应该做好相应准备。下面我来解释原因。

多年来，研究人员和科幻作家一直在预测这样一个未来：AI 系统将大幅加快整个科学与技术进步的速度，使得一切发展快到人类难以跟上。

他们把这称为奇点。我相信，今年我们已经获得了令人信服的证据，表明奇点如今已经开始。

作家 Vernor Vinge 在 1993 年就预言了这一点。“当超越人类的智能推动进步时，这种进步将快得多。事实上，似乎没有理由认为进步本身不会在更短的时间尺度上催生更加智能的实体，”他写道，并将奇点描述为“一个我们的模型必须被抛弃、新现实开始主导的时刻”。

奇点已经到来。它的影响遍及生活的方方面面。但最重要的影响很简单：我们应该预期，在未来几年，不仅 AI，整个科学的进步速度都会加快。这会让人感到困惑和迷失方向，同时也会带来巨大的财富和潜在的巨大危险。

今天，我将专注于第一点：AI 快速进步的潜在益处，以及我们需要做什么来共同分享这些益处。

人类从 AI 中获益的许多方式都来自科学。我相信，AI 驱动的科学发明将改变全球经济的进程，改变各国规划和建设自身基础设施的方式，让我们更健康、能花更多时间与所爱之人相处，同时也会促使我们所有人就其持续发展应作出的抉择提出深刻的哲学问题。

我来展开我的论点：在过去半个世纪里，尽管研究人员数量快速增长，大多数国家都面临着研究生产力下降的问题——思想和发明似乎越来越难以找到。

但一个重要的变化已经发生：我们如今构建的 AI 系统能够增强、扩展并自动化人类劳动的某些方面。这在软件开发领域最为明显，AI 系统现在比世界上绝大多数软件工程师都更有能力、更有效率。

因此，软件开发领域正在发生变化——现在，一个人就能为自己能想象的任何东西编写软件，创造出以前需要整个团队才能完成的东西。

我们在 Anthropic 内部看到了这方面的具体证据：我们的研究人员现在编写的代码量几乎是公司成立最初四年的 10 倍。

但新的 AI 能力也带来新的挑战——编码能力的提升意味着 AI 系统在网络防御和网络攻击方面都变得强大得多——这促使全世界竞相部署这些强大的能力以构建更好的网络防御，而不良分子也竞相利用这些系统实施黑客攻击。

这里需要注意的重要一点是，这些事情是紧密交织、不可分割的——AI 系统在编码这样的通用领域的进步，也在网络安全等具有国际意义的领域同时产生了正面和负面的影响。

这只是未来的一种预演。进步会带来新的能力，也会带来新的挑战。

这些能力不会止步于编程；同样的事情将发生在科学和机器人领域。这已经开始发生了。这意味着全球经济的一些重要属性可能会改变——比如创新的速度，或者我们发明全新通用技术并围绕其催生新产业的频率，就像互联网、电话和人工智能一样。

那么，是什么让我相信这一点呢？在 2026 年，我们已经看到了首批迹象，表明 AI 系统可能有能力在最前沿开展科学研究，并且我们已经有了一些能够唤起对未来的想象力的例子。例如：

在数学领域，AI 系统已被用于为长期悬而未决的数学问题提出解决方案，比如纳维-斯托克斯千禧年大奖问题、雅可比猜想，以及若干未解决的 Erdős 问题。在许多情况下，AI 系统贡献了使解决方案得以实现的核心洞见。

在生物学领域，研究人员已经利用 AI 从零开始设计病毒、寻找可供测试的新候选药物，如今已有部分主要由 AI 设计的药物进入临床试验。

在机器人领域，AI 系统现在越来越能够远程自主操作实验室设备，使我们有可能进一步自动化从生物学到材料科学等领域的实验，加快电池和燃料电池开发等领域的进展。

单独来看，这些例子中的每一个都令人振奋。但深刻的事实是，它们都指向同一种底层技术——而且对于其中大多数用例来说，都是同一个底层前沿模型。我们现在拥有了独一无二的实体——像 Claude、ChatGPT 或 Gemini 这样的 AI 系统——它们能够开展多个科学学科前沿的工作。

定量指标也印证了这一点。
其中一个指标是 AI 系统在一场名为“Humanity’s Last Exam”的测试中的得分——这名字可不是我起的！

这场名字不祥的测试，是为了回应此前几年 AI 系统在各类困难且多样的科学挑战中取得的巨大进步而开发的，涵盖的主题从高等化学、计算机科学、数学到古典文学和生态学，不一而足。

当这场考试于 2025 年 1 月推出时，得分最高的 AI 系统拿到了 8%。而截至本周，得分最高的系统是 Claude Opus 5.5，成绩为 67.7%。

另一个例子是 FrontierMath，这是 2024 年 11 月发布的一项测试，旨在评估 AI 系统能够解答数百道具有挑战性的数学问题的水平，这些问题由专业数学家策划和评审。发布时，得分最高的系统只拿到 2%。现在，它们拿到了 94%。

更广泛地说，这种现象随处可见。挑一个你最喜欢的科学领域，去找找相关的测试，你就会发现这种模式——能力的陡然急剧提升，放眼皆是。

TheoPhysEval
我将以一个故事来结束我的论证。最新的例子来自上周刚发表的一篇名为 TheoPhysEval 的论文。这篇论文测试了 AI 系统解答理论物理学中未发表问题的能力。论文中的 50 道题目由世界各地的物理学家编制。

不出所料，AI 系统获得了高分。但令人惊讶的是它们是如何获得高分的。在这里，我要引用印度物理学家 Suvrat Raju 的话，他撰写了一篇文章评论这些结果。

“我不知道有哪个个人能在没有 AI 辅助的情况下解决我们最终收集的问题集中任何显著比例的题目，”他说。“我们的初步评估显示，GPT-6-Astra 的分数在 80 多分的高段，紧随其后的是 Opus 5.5。但是，当我们开始调查这些模型可能犯的错误时，这些模型，尤其是 Astra，坚持认为自己是对的，而是专家提供的答案出了错。当我们回头去找专家时，结果在多个实例中，专家们发现他们的计算深处埋藏着一些微妙的错误。随着他们修订答案，Astra 的分数开始逐渐上升，最终达到了 98%（49/50）。”

想一想这件事。世界上一些科学专家用 AI 绝无可能读到过答案的题目构建了一套测试。而当他们测试这个 AI 时，它不仅得了高分，还通过找出人类精心处理的答案中的错误而获得了更高的分数！

电影里常常有这样的场景，通常在影片三分之二处，年轻的主人公终于向他们的导师证明，自己已经具备了独立走向世界并取得成功的能力。这是一种叙事套路——学生变成了老师。而这里正在发生的就是这样的事。

那么，我为什么要告诉你这些？AI 系统在科学上越来越强，这为什么重要？

我认为，这是因为从事真正的前沿科学——能够做出拓展知识前沿的突破——本身就是对 AI 能力最后几大前沿之一的无形考验：创造力。我的看法是，如果 AI 系统能够创造性地解决问题并在科学上取得成功，我们应该把这视为它们能够向许多领域泛化的标志，其中当然包括 AI 研究本身，这可能对创新产生爆炸性的影响。

因此，如果 AI 系统在科学上变得更强，这将有力地推动未来经济的增长及其形态，这意味着你今天就可以做出决策，让你的国家和人民在未来从这一趋势中受益。

科学与增长
我们来谈谈增长。增长的主要来源之一是研究产生新想法。推动增长的因素之一是我们的人力资本储备——全世界那些提出问题、开展科学研究、从而帮助世界前进的人们。

但我们也知道，正如一些经济学家所说，“好想法正变得越来越难找”。取得突破的成本正在上升，我们不得不向研究投入越来越多的资源，才能保持同样的前进速度。

如果这一切改变了呢？借助这项技术，我们可以从根本上改变地球上研究人员的数量，以及培养他们所需的时间。

正如我在开头介绍自己的资历时所说，我只有一个人，走到今天花了大约 40 年。如果能够同时运行成百上千个我的副本，那意味着什么？如果新版的我可以即时创建，而无需等待 40 年，那又意味着什么？如果我可以复制自己并命令它们在我的监督下工作，我的工作会发生怎样的变化？这就是未来几年经济大部分领域将呈现的景象——我们将能够以前所未有的方式增强科学等前沿领域的人力劳动。

这很可能会改变我们发现好想法的速度，因为我们能够为任何问题增加成百上千倍的研究人员，强力放大人类科学家的能力。

我们还可以非常迅速地做到这一点。如果你想培养一代新研究人员，在某个特定领域，可能需要 10 到 15 年的定向教育以及数百万美元，才能得到一小批人。另一方面，只要有足够的计算能力，这些 AI 系统可以立即被创建出来，数量不限——而且它们可以跨领域使用，几乎即时地从新的科学洞见中受益，还能以新颖而出人意料的方式组合已有知识来做出发现。这意味着我们可以通过生成大量虚拟科学家与人类并肩工作，迅速在有前景的领域增强人类的能力。

这意味着，在未来的几年里，地球上的每一位人类科学家都将变得更加重要、更加强大，因为他们将能够监督成百上千位志同道合的专家，去研究任何他们觉得有趣的问题。

我们自己也做了一些建模，尝试根据技术的不同发展轨迹模拟经济的不同版本。如果你假设模型将能够自主完成广泛多样的任务并快速在经济中普及，那么在这些近乎奇点的条件下，我们可能会看到一场前所未有的经济转型，美国 GDP 到 2030 年将达到 44 万亿。这听起来离谱，但这是技术持续进步所隐含的结果。如果 GDP 增长到如此程度，那么经济学原理表明，必然需要创造新的产业和发明来支撑如此大规模的经济扩张——而这正是“AI 系统能够自主进行科学探究”这一概念所隐含的。

那么，我们该怎么办？我们要如何普遍地构建这个世界，使其从这些不断进步的能力中受益？我们又该如何在进步的机遇与适当的审慎之间取得平衡？

我们既要为成功做好规划，让人类能够利用这项技术创造富足，也要准备好就如何使用这项技术本身做出明智的选择——仅仅因为 AI 将成为一名能干的科学家，并不意味着我们应该把它用于绝对所有事情。

关于为成功做规划，我先从我自己经历中的一个故事讲起。

过去十年里，我走访了世界各国政府，试图传达一个简单却重要的事实：AI 系统正变得越来越强大和有用，而这些系统需要大量的计算机。因此我说过，政府要想在 AI 革命中占据优势，能做的最好一件事就是建设足够的电力容量和数据中心空间，以便能够托管这里所讨论的这类强大 AI 系统，并投资于 AI 供应链。

倾听的决策者并不多。如今，我们正在承受这一后果。在当今世界，数据中心容量集中在美国、中国以及日益增多的中东地区，而供应链高度集中、竞争激烈，价格不断上涨。

这些建设仍然重要，但它只是 AI 持续进步所预示的这场经济与科学革命的第一阶段。现在，还有更多有待建设，而且我相信——只要愿意——更多国家可以参与其中。

AI 革命的下一个阶段是向物理世界的扩展，具体表现为让 AI 系统越来越多地操控机器人，并进行科学实验，有时两者结合进行。因此，正如我们在算力和电力方面所做的那样，我们将需要使用更多的科学设备和机器人系统，否则容量很快就会耗尽。我们现在就必须建设这种能力，以便最大限度地利用这场科学繁荣，将其转化为惠及所有人的成果。

根据联合国教科文组织的估计，全世界大约有 1000 万名科学家。即便只有 1000 万名科学家，我们也没有足够的人类科学家来监督工作，没有足够的实验室进行材料科学分析，没有足够的生物实验室来开发和测试新药，也没有足够的大型科学设备在太空或地球上开展我们想要进行的实验。

如果科学家不是大约 1000 万名，而是由我们这 1000 万名人类指挥的 10 亿名虚拟科学家呢？或者 100 亿名呢？那个世界正迎面而来。我们必须做好准备。

如果我们做好准备，就能更好地把 AI 系统的智能转化为惠及所有人的成果：更长、更健康的生命，更多的能源、更多的粮食、更多的财富。正如数据中心一样，建设和培育这条供应链的国家，将是最受益的国家。

这是所有人的机会：如果你是拥有丰富科学生态的发达国家，你有机会让所有科学家更具生产力。如果你是向 AI 和科学事业提供基础要素（如原材料）的发展中国家，你有机会实现跨越式发展：你既可以建设科学测试设施——与人类科学家和数字 AI 科学家相配合，帮助你发展科学共同体——也可以继续深化你对供应链的贡献，而这在未来将变得更加有价值。

但仅有基础设施是不够的。如果科学发现变得充足，我们就需要避免在下游造成瓶颈——如果最终只有少数药物能够被测试，那么大量新提出的药物也无济于事。政策制定者以及在座的各位同行需要帮助我们找到方法，加快我们将发现从实验室推向临床、工厂和田间的能力。

我们为这个世界准备得越充分，就越能把 AI 的成果转化为世界的成果。

我们还需要以全球共同体的身份做好准备，对未来做出选择。因为正如我所说，这里存在风险。能够将 AI 用于科学，也让我们面临科学被滥用的可能——生物武器和网络武器，以及我们尚无法想象的东西。

我们有许多选择要做，只有正视这项技术的本质——认识到它有多么强大——我们才能看清做出这些选择的紧迫性。

第一个选择关乎我们应该把这项技术引向何方。拥有一个能够做科学的 AI 系统，并不意味着可以任由它在无人看管的情况下做科学。其中一个用例是生物研究，在这类研究中，我们需要最严格的人类监督和透明度来维护安全。

另一个是 AI 研究本身，像 Anthropic 这样的实验室需要决定对 AI 驱动的研究施加多大程度的监督。这可以让我们在技术上取得更多进展，但也引入了风险。在这一领域我们必须极其谨慎地行事，否则就可能失去对这项技术的控制。我们很可能还需要相应的规则来规范这一点。

本周早些时候我在东京，那里一所大学的一名学生说，他在物理系工作，并告诉我 AI 已经开始能够完成许多实验了。作为人类，他们应该把时间花在哪些实验上，又应该让 AI 系统自己完成哪些实验？这是一个我不知答案的微妙问题，但科学的每个学科都将需要回答这个问题。

第二个选择关乎我们需要对这些 AI 系统的行为理解多少。正如我们今年在 AI 于数学领域的崛起中所看到的，我们已经身处这样一个世界：AI 系统取得的进展足够富有创造性，以至于我们人类现在要花费时间去解读它们——试图理解它们的含义，以及如何将这些洞见为我们所用。

我们应该理解多少？同样，这里的答案会很微妙，而且它关联着奇点时代关于意义的一些根本问题——在科学进步的哪些方面，我们希望拥有真正的理解？距离 AI 系统不仅做科学、还发明为 AI 系统的工作方式而非人类思维量身打造的新型科学设备，已经只有短短几年了。我们需要理解那些设备吗？我们应该理解吗？这是我们需要做出的又一个选择。

最重要的是，认真对待 AI 的进步意味着，我们应该允许自己去想象一个根本不同的世界

我十几岁的时候，读了很多关于世界的书，心中充满恐惧。我相信21世纪将会是艰难的——人口增长、气候变化、资源开采和其他危机会不断累积，导致人类陷入马尔萨斯式的崩溃。人类在发明了计算机和互联网、走向辉煌之后，也许会把自己消耗殆尽。

而在之后的岁月里，我一次又一次地看到技术如何从根本上改变这些 odds：太阳能电池板的出现让它的价格比人们预期的更快、更大幅度地下降。我们对人体日益深入的理解让我们发明了治愈许多致命疾病的方法——其中包括夺走我自己一些家人生命的疾病。

我们还做到了我从未想象过、却觉得无比惊奇的事情，比如我们现在正在用 AI 系统破译动物的语言，或者公司制造的火箭能够起飞后再降落回地球。

我从事 AI 工作，因为它能帮助我们做成更多这样的事。我从事 AI 工作，因为它能否做到这一点，取决于我们做出的选择——取决于在座各位将做出的选择——取决于我们如何引导它、如何治理它。这也是我需要做出的选择。我从事 AI 工作，因为它是我们这个物种所建造的最重要技术。

如果我们能够正确使用这项技术，它将让我们解决那些否则可能会毁灭我们整个物种的问题。但它也是一项危险暗藏其中的技术。要渡过这一关——在奇点中开辟一条航道——我们需要共同努力，为这项技术以及建造它的公司制定非同寻常且严肃的规则，并践行人类最难能可贵、我认为也最高贵的品质——克制。

我们需要建设基础设施来利用这项技术，但同时也需要在技术本身的开发上缓慢而审慎地推进，以控制其发展速度或以其他方式加以约束。我们需要不断区分哪些是我们能做的事，哪些是我们应该做的事。我们还需要今天就投资于科学能力，让这样的进步成为可能。

这一切让我想起了伟大的卡尔·萨根，他在《暗淡蓝点》中说过，未来某天可能抵达其他恒星的人类，将是“一个与我们非常相似的物种，但拥有更多我们的优点、更少我们的缺点……更自信、更有远见、更有能力、也更审慎”。

这正是 AI 对我们的要求。萨根认为我们有数十万年的时间来实现这一点——成为更好、更智慧的人——而我们所拥有的只有短短几年。我相信我们能够做到。但只有以应有的严肃态度对待 AI，我们才能成功。谢谢大家。

在此观看演讲：

暂无文章