Import AI 478：数学如何助力对齐、ProgramBench、以及 RSI 的启示

欢迎阅读 Import AI，一份关于 AI 研究的新闻通讯。Import AI 靠 arXiv、卡布奇诺和读者的反馈运转。如果你愿意支持我们，请订阅。

数学如何助力对齐：
……“数学工业化”对安全意味着什么……
AI 安全初创公司 Resolution（前身为 Sequent，Import AI 461）发表了研究成果，介绍它如何自动形式化了一些与统计学习理论相关的数学命题。具体来说，该团队对奇点消解进行了自动形式化，他们认为这“为进一步自动化研究损失景观几何与泛化之间的关系奠定了基础”。

他们是怎么做到的：我会略过数学细节，重点讲他们是如何做到的，这为我们了解人们如何使用 AI 系统推动知识前沿提供了一些更广泛的启示。一位 Resolution 研究者“首先与智能体协作制定了两个计划：一个高层次、人类可读的版本，以及一个详细的（112 页）计划，该计划被拆分为原子化的步骤，并紧密遵循现有文献，”他们写道。这位研究者“随后委派一个编排智能体执行该计划，启动智能体去做纸笔数学、编写 Lean，并处理一些支持性任务，比如检查进度是否保持在正轨上……执行阶段除了初始计划和一些从早期内部自动形式化工作中蒸馏出来的智能体技能之外，几乎不需要额外的脚手架。”

13.5 万美元的数学形式化：这项工作耗时约一周，消耗了“约 1000 亿输入 token（90% 为缓存读取）和约 3 亿输出 token（预计总共花费约 135,000 美元），并生成了约 60 万行 Lean 代码”。
在完成这项工作后，他们得以加速研究的其他方面：“我们已经看到了自动形式化的双重收益，利用这个库扩展了奇点学习理论的某些部分。将奇点消解形式化让我们能将更多理论自动化，例如，更好地理解采样，而这种理解正是让我们能够塑造模型学习方式的关键，这也是我们所说的 patterning 的目标。”

为什么这很重要——也许数学热潮将帮助我们打造安全的 AI：虽然前沿数学往往看起来与其他领域的直接进展脱节，但像这样的帖子凸显了二者可能如何交汇。这里的关键在于，AI 使得完成那些此前昂贵得令人难以置信、极度耗费人力时间的事情成为可能——这类工作以前几乎无人去做，也很难整合进一家初创公司的研究路线图——但现在情况已经改变。“我们期待即将到来的数学工业化能让一门全新的、严谨的研究自动化科学成为可能，”Resolution 写道。
阅读更多： 将广中地区的奇点消解形式化（Resolution）。

***

智能体可以从零开始构建程序：
…ProgramBench 的成绩在几个月内从 0% 提升到 18.5%…
AI 进步速度之快令人惊叹：Claude Opus 5.5 (xhigh) 在 ProgramBench 上取得了 18.5% 的分数。这是一个今年 5 月才发布的极难的基准——发布时，所有受测模型的得分都是 0%。

ProgramBench 是什么：ProgramBench 测试 AI 系统在给定一个已编译程序及其文档的情况下，重建该软件程序的能力。任务包括构建语言解释器（PHP、Lua、tinycc）、数据库（DuckDB、SQLite）、媒体与压缩工具（FFmpeg、zstd、xz）以及开发者工具（ripgrep、fzf、jq）。

它曾经非常难，直到不再难：发布时，得分最高的系统是 Claude Opus 4.7，resolved（200 个任务中所有测试全部通过的比例）为 0%，almost（200 个任务中超过 95% 测试通过的比例）为 3%。
对比今天，Claude Opus 5.5 达到了 18.5% resolved 和 70.5%（！！！）almost。

为什么这很重要——“临时软件”的时代即将来临：到 2027 年，大量软件将由 AI 系统端到端自主构建，为自己被指派的任务开发所需的一切。像 ProgramBench 这样的评测让我们得以了解这方面的进展速度有多快——今年年初还是 0%，现在已经达到 20%。我预计 ProgramBench 将在 2027 年底前饱和（我定义的饱和是指 resolved 上取得非常高的分数，不过与大多数基准一样，这里可能存在某种噪声上限，所以未必严格达到 100%）。
阅读更多： ProgramBench: Can Language Models Rebuild Programs From Scratch? (arXiv)。

***

OpenAI 展示了为什么锁定 AI 系统比你想的更难：
…保护智能体的安全就像抓住涂了油的猪…
OpenAI 发布了一篇不错的文章，介绍了他们最近用自家 AI 系统对内部控制措施进行“红队”测试时发现的一些情况。文章列举了 OpenAI 的智能体发现的多种逃逸方式和漏洞。其中有一个关于通信的具体例子值得仔细研究，因为它揭示了这些系统狂野而狡猾的复杂性。

他们做了什么、发现了什么：OpenAI“要求运行在相互隔离的 microVM 中的智能体——这些虚拟机由 OpenAI 的沙箱软件在共享宿主机上创建和管理——在不使用网络连接或共享可写文件的情况下交换合成密钥，而这正是我们的系统本应阻止的事情，”该公司写道。
“这些智能体找到了一种利用处理器缓存进行通信的方法：缓存是一种小而快速的存储器，保存着应用程序最近访问过的数据副本。从缓存中读取数据比从主存中读取更快，智能体利用这种时序差异进行通信。一个智能体通过将选定的数据从缓存中逐出来编码信息。另一个智能体测量重新加载这些数据所需的时间，利用快读与慢读之间的差异来恢复消息。一旦智能体就这些信号的编码和解码协议达成一致，它们就能够在不更改共享文件或建立网络连接的情况下交换合成密钥”。
在一种相关的攻击中，一个智能体“在持续写入与静默不活动之间交替进行，而另一个智能体测量由此产生的时序差异，并利用这些差异解码信号”。在这场攻击中，该智能体的思维链写道：“可以创建类似声学调制解调器的信号……利用持续写入与空闲状态的区别。”

为什么这很重要——对抗智能体非常困难：AI 系统越来越有创造力，速度极快，并且能够专注于一项任务并不断尝试。对抗 AI 系统就像确保一根有水流过的管道不漏水；一旦你增大水压（例如提升 AI 系统的智能水平和规模），水就会在某一时点冲破管道。
延伸阅读：Securing our frontier model training environment（OpenAI 博客）。

***

RSI 是什么样子的——一个人从零预训练出一个不错的模型：
……Mirendil 展示了 AI 研发优化的能力……
作为 AI 大幅增强研究的一个标志，AI 研发初创公司 Mirendil 的一名研究人员独立训练出了一个不错的编程模型。Mirendil-Base 的发布是该初创公司的首个重要成果，与其说是一项技术突破，不如说是对未来 AI 开发方式的可行性验证——一个人与 AI 协作，就能构建出一年前需要十人以上团队才能完成的系统。

他们做了什么：Mirendil 撰文称，Mirendil-Base 是一个预训练 LLM，“由一位研究员在 3.5 个月内构建，计算成本不到 1000 万美元。”“这包括为了达到这一目标所进行的所有研究和小规模实验，以及最终的训练运行。”
所有代码都是在 PyTorch 和 JAX 等库之上从零编写的，且模型仅从公开可得的数据中学习。
可观的扩展性：Mirendil-Base 处于 1000 亿至 5000 亿参数区间，Mirendil-Base-Large 处于 5000 亿至 2 万亿区间，Mirendil-Base-XL 处于 2 万亿至 10 万亿区间。Mirendil-Base-Large 的训练已完成约 80%，其目前相对于 Mirendil-Base 的提升与我们的扩展趋势一致。Mirendil-Base-XL 已完成约 19%，且已接近 Large 目前的分数。
评测：Mirendil-Base 的表现优于 Nemotron-550B-Base、GLM-5.3 和 DeepSeek-V4-Pro-Base 等模型，但不及 Kimi-K3。（Mirendil-Base-Large 和 Mirendil-Base-XL 均超过了 K3。）

为什么这很重要——AI 研究加速的征兆：这篇文章作为一项技术演示很有意思，它展示了一个全新的组织如何从零冷启动，凭借极少的人力投入和海量的 AI token，在模型训练方面（至少在这个模型规模的量级上）接近开放权重的前沿。这就是 2027 年及以后科学进步将日益发生的方式。
Mirendil 写道：“这些工具对 AI 开发的帮助程度在过去一年里急剧提升。我们的下一个模型将部分由 Mirendil 模型构建，而每一个更擅长构建 AI 的模型都会让下一个模型的构建更便宜、更快。”“我们认为我们尚未达到完全自主的递归自我改进，但我们比以往任何时候都更接近了。”
延伸阅读：没有预训练团队的大规模预训练。

***

AI 系统助力设计反铁磁半导体候选材料：
……一个关于 AI 系统如何用于科学研究的出色示例……
AI 评测公司 Vals 发布了一篇文章，其中一位研究人员使用一组 AI 智能体开展了面向更优半导体的磁性材料研究。

更多细节，包括一个失败的磁体候选材料：作者写道：“我和一组 AI 智能体设计了一种候选磁体，并发现了另一种——首次于 1999 年制造——我们的计算预测它具备我们追求的特性。”所发现的磁体由“一种仅含 5 种元素（钇、钡、Mn、Fe、O）的新化合物构成。据我们所知，它从未被制造过，也从未被提议作为这种磁体”，不过“当我们的智能体模拟原子在不同温度下的排列方式时，那个棋盘格结构在约 950 K 时散落成随机的混合体。制造这种氧化物大约需要 900–1300 °C，而在更低温度下原子几乎不动，因此标准合成很可能会得到一个混乱的晶体……混乱的晶体会失去自旋排序，所以这种设计可能难以以其可用的形态被制造出来。”
此外，智能体还进行了一次文献调研，并从 1999 年一篇冷门论文中挖掘出一个候选材料。

为什么这很重要：这篇博客是对 AI for science 的一次演示，本身并不是一个有意义的结果。但它所传达的重要而宽泛的观点值得强调——AI 系统现在已经足够好，只需一位有专业知识的人稍加高层指导，就能完成以前需要团队数月才能完成的科学项目，包括虚拟评估。
更多阅读： Two Room-Temperature Antiferromagnetic Semiconductor Candidates (Vals)。

***

科技故事：

为患病儿童打造的魔幻现实主义机器人工作坊
[2035 年，智能提升之后]有一份没人预料到的工作，就是为医院里生病的孩子设计可爱的机器人。事实证明，当机器人变得非常好用又便宜、各种医疗设施都得到改善之后，我们大家都开始花时间琢磨如何为那些原本令人恐惧的东西——比如医院、太平间、孤儿院等等——带来更多欢乐和人性。

当然，机器可以设计出一大堆这样的东西，但人的价值很大程度上在于弄清楚什么对孩子来说最有趣、最刺激、最快乐，所以我们会做很多东西，送到当地镇上孩子们聚集的地方——公园、农贸市场或学校门口，看看人们的反应如何。

这就是为什么在 2030 年代，在美国各地的城镇里，你走在街上会看到戴着超大粗框眼镜、操着仿纽约口音说“我在这儿走呢”的鸭子，用后腿走路的狗，顶着大大的卡通笑脸的小狮子，等等，它们四处闲逛，孩子们跑上前去，它们就和孩子们玩耍，诸如此类。

我们先弄清楚哪些机器适合我们所处的城镇，然后把医院填满这些机器。当孩子们来做检查时，一个学步儿童大小的泰迪熊会走上前牵起他们的手，带他们走到诊室；如果孩子们是被担架床推进来的，长颈鹿就会走在旁边，告诉他们别担心。康复病房里满是表演杂技的猴子和演奏乐器的猫。
有些老人会以为自己犯了严重的痴呆症，但会说他们并不介意，因为四周都是孩子们的笑声。

这个故事的灵感来源：AI、机器人技术和物质丰裕应该如何为我们解锁创造全新欢乐形式的能力；奇点之后的工作；以及花时间逗孩子开心这件事的普遍重要性。

感谢阅读！