跳到正文
The Decoder· Manuel Uth·· 2 小时前精选AI 评分78

部分数学家呼吁抵制 OpenAI,AI 生成的证明涌入数学界引发争议

Some mathematicians call for OpenAI boycott after AI-generated proofs flood their field

AI 导读

Fields 奖得主 Terence Tao 所在的 AHM 组织发文呼吁抵制 OpenAI,称其一次性发布 700 多个 AI 生成证明文件不是学术展示而是力量展示。

推荐理由

原文梳理数学界对 AI 批量生成证明的抵制呼声,并对比 OpenAI 与 Anthropic 两种发布方式的不同影响。

正文 · AI 翻译

菲尔兹奖得主、该小组主席陶哲轩(Terence Tao)在其博客上以客座文章的形式发布了这份声明,同时还在 Mastodon 上勾勒出一个“数学 2.0”时代,在这个时代里,解决问题将不再是这门学科的主要焦点。复杂性理论家 Scott Aaronson 则在他的博客上将这一局面描述为一场“数学末日”(Mathocalypse)。

AHM 的声明使一场持续数月的争论进一步升级。OpenAI 此前已因宣称其内部模型在一个月内解决了100 多个未解决的数学问题而引发轰动,其中包括一种针对纳维-斯托克斯千禧年问题的方法。面对日益增多的批评,OpenAI 在高等研究院设立了顾问小组 AGMAI,不过该小组对公司内部研究的节奏没有发言权。

AHM 认为此次发布是一种炫示实力

AHM 表示,OpenAI 已经无视了 AGMAI 建议的核心前提,即高级数学问题不应在内部模型上进行测试。“数学家们并没有要求做这项工作,”声明中写道,并将一次性发布 700 多个文件描述为“不是学术性的展示,而是实力的展示”。

声明的开头段落还提到了 OpenAI 在世界各地面临的诸多版权诉讼,暗示——虽然没有直说——该公司之所以能取得这些成果,可能是因为它用数学家的工作进行了训练,无论合法与否。

当 OpenAI 最近在两位数学家即将展示他们自己的 AI 辅助解法之前宣布解决了纳维-斯托克斯问题时,同样的争议再度浮现。这两位数学家在工作中使用了 ChatGPT,而 OpenAI 否认了有关其利用这些交互中的数据来训练自己的系统从而更快得出解法的猜测。

Aaronson 将此与他所谓的“Anthropic 模式”进行对比。OpenAI 一批次地发布原始的 AI 证明草稿,引发了一场消化这些草稿的竞赛。而 Anthropic 则与两位算法研究人员合作,后者的 AI 模型为推翻两个存在二十年之久的猜想提供了关键思路。这两位研究人员获得了报酬,并撰写了一份人类可以读懂的证明版本。

两种方式都有缺点。OpenAI 的方法让社区不得不免费从事将证明变得可读的吃力不讨好的工作。而 Anthropic 的方式则让一家私人公司来挑选哪些数学家可以充当成果的“使者”。

AI 正以快于任何人验证结果的速度攻克数学难题

陶哲轩此前曾与其他 24 位菲尔兹奖得主——包括 Peter Scholze、Maryna Viazovska 和 Martin Hairer——一起签署了一份声明,警告 AI 行业的目标与数学的目标之间存在“严重的错位”。他们认为,解决问题只是实现这门学科真正目标——概念性理解——的工具,而以越来越快的速度批量产出已解决的问题可能会“摧毁沃土,而不是为新思想注入活力”。

签署者们还批评在缺乏正式的书面阐述或对相关先前工作的引用的情况下仓促宣布 AI 生成的解决方案,称这引发了“严重的署名与剽窃问题”。

在 Mastodon 上,陶哲轩走得更远。在传统数学中,长期悬而未决的开放问题的证明会带来讲座、研讨会、新的合作以及被纳入教科书,吸引年轻研究者去努力理解这些成果并将其置于更广阔的背景中。

现在他看到了相反的情况。问题正被那些对该领域毫无兴趣、也无法充分理解结果以至于无法回答问题或做讲座的 AI 用户自主解决,所产出的研讨会和合作远少于传统突破所带来的。研究者们也在压制有前景的方向,唯恐竞争对手抢先解决。

对陶哲轩来说,这种损害是不可逆的。一旦一个问题被视为已解决,就不可能再变回未解决。即便只是知道解的存在,用他的话说,也会“污染”对其他可能带来更多洞见的解法的探索。解正被大规模地“收割”,使整个数学分支不如从前那样富饶。

陶哲轩认为,“Math 2.0”时代必须停止把解题作为衡量进展的主要标准,转而重视解释、社区建设以及新研究方向的开拓,并对研究训练、发表和职业晋升的评价方式做出相应改变。

这延续了他 2024 年提出的“工业化数学”愿景,尽管在那个版本中仍由人类掌控节奏。AI 本应像引擎辅助棋手那样辅助数学家,实现广泛但相对浅层的研究,与人类专家的深度工作形成互补。如今,陶哲轩看到这些角色被颠倒了:AI 在解决深层问题,而人类在事后消化这些结果。与许多其他专家一样,陶哲轩显然严重低估了 AI 发展的速度。

研究者们之间流传着一些黑色幽默。Timothy Gowers 本人也是 AGMAI 的成员,他在 X 上转发了米兰大学机器学习算法研究者 Nicolo Cesa-Bianchi 的一则帖子。| 图片来源:X 截图

三个小时的 AI 算力如今足以匹敌一位数学家的整个职业生涯

Aaronson 通过他妻子 Dana Moshkovitz 的经历展示了这对个体研究者意味着什么。她将整个职业生涯都投入到了理论计算机科学中的开放问题——唯一博弈猜想(Unique Games Conjecture)上。而此次发布的内容中包含了一个自称对该猜想的证明。

在发布当晚发给 Aaronson 的短信中,她写道:“感觉像是某个嗑了致幻剂的人写出来的东西。”文档中的很多内容令人费解。论文引用了大量文献却没有解释为何适用,尽管早前的结果本应排除这种可能。

“基本上,这篇论文写得糟糕透顶,没有 AI 帮助根本没法读,”Moshkovitz 说。该证明依赖一种全新的、怪异的构造,她将其形容为“某种外星人的疯狂”。

Aaronson 还列举了来自复杂性理论、数论和算法研究的其他成果,包括对几个尚未解决的克雷千禧年难题的部分进展。在他看来,其中任何一项单独拿出来都足以跻身年度顶级成果之列。

不过,这次发布中有一个领域明显缺席:密码学。Aaronson 援引匿名消息源报道称,AI 公司目前正在悄悄试探密码学协议和密码学原语的弱点。总共测试了约 8,000 道题,成功率约为 5%,每道题平均使用 GPT-Pro 级别 3 小时的算力。所使用的模型很可能也是 OpenAI 当前的内部模型,该模型可能在未来几个月内向 ChatGPT 付费用户开放。

数学家们对抵制是否有帮助意见不一

陶哲轩博客文章下的评论显示出该领域的分歧之大。几位评论者支持抵制行动,并提议研究人员停止使用 OpenAI 产品,同时呼吁加强对 arXiv 等预印本服务器的保护,防止训练数据被大规模收集。

另一些人则认为 AHM 的立场不切实际,他们指出 OpenAI 不会停止数学方面的研究,而且公开的成果总比私下的要好。还有一位评论者问道:当作者本人和其他人都无法完全理解证明时,一个问题真的能算被解决了吗?以 Navier-Stokes 方程为例,目前仍不清楚该结果是否真正加深了任何人对流体力学的理解。

AGMAI 本身的立场比 AHM 更为外交化,它将这次发布视为第一步,对这些结果的数学理解现在才刚刚开始。不过,该组织也警告说,数学研究的未来不能只是消化 AI 实验室产出的结果。

"数学家必须能够提出自己的问题,发展自己的方法,并探索那些未被选作 AI 系统能力示例的方向。公平地获得强大的研究工具和充足的计算资源,对这种自由至关重要,"该组织写道。

来源:The Decoder · the-decoder.com