Import AI 480：AI for science 进展、月球自维持太空经济，以及 Meta 为超级智能打造“完美之手”

欢迎来到 Import AI，一份关于 AI 研究的新闻通讯。Import AI 靠 arXiv、卡布奇诺和读者的反馈运转。如果你想支持它，请订阅。

AI 科学初创公司将一个量子猜想转化为定理：
…奇点到来的一种令人回味的预兆…
就像几年前，计算机能够识别图像中的物体从引人注目变为司空见惯一样，我们如今正处于这样一个时代：计算机拓展人类知识的边界，正迅速从引人注目变为司空见惯。
最新的例子来自 Physical Superintelligence，这是一家 AI 科学初创公司，它证明了一个悬而未决已久的量子计算猜想。

他们做了什么： “该猜想由 Scott Aaronson 和 Andris Ambainis 于 2008 年提出，涉及量子计算机何时能比普通计算机呈指数级更快。如今，Physical Superintelligence（PSI）内部开发的一个研究系统，运行着一个未公开的 Anthropic 模型，为其找到了证明，解决了量子计算中最根本的问题之一，”这家初创公司写道。“系统在运行的第三天就得到了该猜想的完整证明，并且 Lean——一种由计算机检查每一步的证明助手——接受了它。随后我们让该系统着手研究相关的开放问题。在此过程中，系统两次改进了这一结果，Lean 接受了最终版本。”

为什么这很重要——我们正处于奇点之中：正如我在 IMF 的演讲（#477）中所说，我相信我们正处于奇点的早期阶段，奇点被定义为技术与科学进步的速度超过我们人类所能消化和理解的速度的时期。像这样的研究正是其含义的一个预兆；大部分自动化的合成研究员拓展知识的前沿，产出随后需要由人类来理解的结果。
了解更多： Aaronson‑Ambainis 猜想的证明（Physical Superintelligence，博客）。

***

Meta 打造超级智能接管世界所需的手：
…把 Tactus 与自主智能体相结合，你就有了科幻式接管世界的雏形…
Meta Reality Labs Research 公布了 Tactus 的细节，“一款将触觉和姿态传感集成于织物中的手套，从零开始专为自然操作数据采集而设计”。这款手套的酷之处在于，它能帮助记录手在操纵物体时的细粒度细节——这类信息相机可以在视觉上呈现，但由于操作过程中的遮挡，往往导致数据质量欠佳。它也很有意思，因为这正是自主 AI 系统可能想要付钱让人类佩戴、从而收集数据并获得来自真实世界反馈的那类硬件。

关于 Tactus 的更多细节： 这款手套有三大设计支柱：

• “（1）轻薄贴合的 3D 针织形态（指尖叠层 1.5mm），旨在最大限度减少对自然操作的干扰，

• (2) 在基于实际接触研究确定的、与操作相关的部位战略性布置电容式触觉传感器”，Meta 写道。“Tactus 以纺织品集成的形态提供经过校准的指尖力感知和抗遮挡手部追踪，同时保留自然的抓握行为。”

• “(3) IMU 融合的位姿追踪，在手部被物体遮挡、操作数据最有价值的场景中仍能保持精度。”

为什么这很重要 - 手部线控（hand-by-wire）：想象一下这样的起飞场景：某个 AI 系统在被窃取的算力上运行，为自己开辟了一片独立的生存空间，甚至可能采用某种形式的分布式推理与训练。这个 AI 现在有了若干目标，其中一些可以通过在数字世界中的行动来满足，另一些则需要通过在物理世界中的行动来满足。对于物理世界的事务，它要么需要能让机器人代为执行，要么得想办法让人们为它工作——Tactus 手套正是那种你可能想象中的、 rogue AI 会付钱让人佩戴的硬件，这样它既能 a) 让人们替它执行任务并给出实时反馈，b) 又能将其变成 AI 自身的数据生成来源。
当然，我并不是在认同这种特定的未来！但我发现，开始用“AI 会如何利用这项研究”的视角来看待研究论文是有帮助的，正如人们常常发现用“情报机构会如何利用这里分享的洞见”的视角来看待论文也很有帮助一样。
阅读更多：Tactus：用于自然灵巧性数据收集的触觉与位姿感知手套（arXiv）。

***

构建一个自给自足的太空经济比你想的更便宜——尤其是有了 Starship:
……NASA 2016 年的一篇论文包含了关于地外工业化的一些激动人心的想法……
这里有一篇 2016 年 NASA 肯尼迪航天中心研究人员撰写的引人入胜的论文，探讨了在月球上自举建立一个自给自足的工业体系需要什么条件。研究人员写道：“一旦成功完成自举，一个机器人网络就可以获取、处理、运输和利用太阳系的资源，为人类造福。”

月球制造——比你想的更便宜：这篇论文的核心观点是启动一个制造生态系统所需的质量之少。关键在于从一套相对基础的东西开始，然后在此基础上逐步发展，最终在月球上制造芯片。
“在最大制造速率的基准情形下，共有 41 公吨物资发射到月球。在降低速率的情形下，只有 12 公吨物资发射到月球，但工业规模小了两个数量级，因此工业带来的收益相对延迟了八年。”
Starship 有能力将 100 公吨物资送入近地轨道，而且在轨道上经过多次加注燃料后，让它着陆月球是可行的——粗略估算多次 Starship 发射和燃料加注的成本，按标价计算，将 12-41 公吨物资送上月球的花费在 15 亿至 42 亿美元之间。

在月球上建造什么以及以什么顺序建造： 这里基本思路是先建造简单的东西，然后由此逐步提升，发射一个“亚复制系统，并使其向自我复制能力演进”，他们写道。“目标是让月球上的第一批机器人“殖民者”制造一套比如 1700 年代水平的机器，然后稳步推进到相当于 1800 年代、1900 年代的水平，最终回到 2000 年代。我们认为这可以在短短几十年内完成”。
作者们认为这将跨越 6 个不同的制造世代展开：

• 第一代： 制造气体、水、粗制合金、陶瓷、太阳能电池。

• 第 2.5 代： 塑料、橡胶、部分化学品。

• 第 3 代：多样化化学品、简单织物，最终实现聚合物。

• 第 4 代： 夹层材料及其他先进材料工艺。

• 第 5 代： 大规模生产。

• 第 6 代： 制造所有必需的材料，复杂度不断提升，包括在当地制造所有电子产品。

要向月球发送哪些机器？

• 挖掘机： “在挖掘地点和资源处理地点之间往返，每小时运送足够的月壤以维持其他设备的生产速率。”

• 挥发物化工厂：其中一种将专注于生产气体和液体，如氧气、氢气、水、甲烷等碳氢化合物，以及用于工业流程的溶剂。

• 固体化工厂： 用月球极地的冰生产塑料和橡胶。“我们现在知道，这些冰中含有大量碳分子（CO、CO2 等）以及含氮和含氢分子……例如，这些材料可能用于制造垫圈、密封件和绝缘体。”

• 金属与陶瓷精炼： 早期世代将“通过电积法或其他方法生产粗制的‘混杂合金’”，由这些材料制造的硬件需要做得很大以增加强度，弥补其较差的机械性能。“后续世代的金属精炼厂将增加工艺和材料流，以改善材料的机械性能。金属精炼产生的氧气和其他气体将被送往化工厂”。

• 制造： “增材制造将有两种形式：一种是 3D 打印机，用于制造小到能放进打印机的零件；另一种是更大的单元，可机器人化移动，并将材料添加到自身外部的大型结构上”。

• 发电站： 运往月球的第一批硬件中将包括一个发电站，可能包含一个小型核反应堆。

• 机器人航天员：机器人“将执行组装和维护任务”。要实现产业规模化，机器人数量需要非常快速地增长。“从第三代开始，它们的结构件将在月球上制造，而地球继续提供它们的摄像头、计算机、电机和传感器。最终它们将完全在月球上制造。”这份撰写于 2016 年的报告设想对这些机器人航天员进行遥操作，不过在我看来，它们的自主能力很可能比撰写时最初预期的更强，

• 电子制造：最初，机器将使用从地球进口的电子元件制造，而且在月球上只能制造非常基础的东西，比如电阻和电容。随着开发的继续，会变得越来越容易，最终包括在月球上拥有光刻机。“早期的计算机芯片将缺乏在地球上制造的芯片那样的晶体管密度，但它们足以满足太空中的‘适用技术’需求。”

提醒你 AI 进步有多快：报告中还包含一些关于在月球上操作机器人可能需要哪类 AI 的讨论。这份报告——别忘了它发表于 2016 年——包含一些对 AI 进步速度的有趣的低估：“机器人软件和人工智能的持续进步展现出非常乐观的图景，即 Moravec 预测的这些机器人水平将会实现：2020 年达到蜥蜴水平，2030 年达到小鼠水平，2040 年达到猴子水平，2050 年达到人类水平……而在月球自举完成时只需要小鼠水平，”报告写道。以大多数标准衡量，AI 在 2020 年代已达到猴子水平，并正在接近人类水平。

为什么这很重要——迈向太阳系的工业化：我们越早在月球上建立工业，就越早能够向太阳系的各个部分扩展并将其工业化。“在该产业实现自给自足之后，就可以把它送往太阳系的其他地方。小行星带具备所需的一切：水、碳、硅酸盐、金属、氧、太阳能（可配备大得多的收集阵列）等等。月球两极的冰是有限资源，因此尽快把产业中心转移到小行星至关重要。在那里，十亿倍于月的资源量可以让产业呈指数级扩张，仅在几十年内就超越整个地球的产业规模，”作者写道。“当我们将机器人产业遍布整个太阳系时，它将成为地球生物圈和食物链的类似物。我们可以称之为机器人圈。太空机器人之间的相互关系可以由机器人生态学家研究，学习如何优化机器人圈以支持人类的目标。”
延伸阅读：Affordable, Rapid Bootstrapping of the Space Industry and Solar System Civilization（arXiv）。

***

Core Automation 想把“算力孤岛”连成一片：
……AI 初创公司尝试分布式训练……
Core Automation 是一家由 OpenAI 和 Google 资深人士创立的 AI 初创公司，该公司发布了一篇关于分布式训练的文章，并分享了自身的尝试细节。分布式训练是指在多个数据中心之间训练一个 AI 系统，有时会采用不同类型的网络连接和芯片——这是一项值得追踪的重要技术，因为它越成熟，就越多人有机会在没有单座超大规模数据中心的情况下构建强大的 AI 系统。

他们做了什么：他们报告称“一个总参数量约 32B、稀疏度为 32x 的专家混合模型，在相距约 9,000 英里的两个集群上完成了训练。值得注意的是，这两个集群使用了不同的加速器（GB300 和 B300）、不同的并行方案和不同的总批次大小”。他们在美国使用了 160 块 B300 GPU，在亚洲使用了 160 块 GB300 GPU。
每 50 步同步一次训练：“我们不是一次性同步整个模型，而是逐片段同步，在每个 50 步窗口内错开进行。”每个站点都使用了一种 Distributed Shampoo 的变体进行训练。
这并不是通过分布式技术训练的最大单模型（那是 Covenant 的 72B 模型，#449），但值得注意的是，Core Automation——此前一直非常低调——选择在这里表明其兴趣。这可能表明了分布式训练对未来大规模训练运行的重要性，也表明新创公司普遍难以买到大量算力。

迈向轨道算力：作者对此感兴趣的部分原因在于他们对 AI 训练的“天高”野心，他们预见未来将在太空中运用此类技术开发大规模 AI 系统：“一个雄心勃勃的第一步，是在几颗卫星上预训练一个小模型，并与地面基线进行比较。万亿参数规模的轨道运行还要遥远得多。”

为什么这很重要：“部署加速算力的最大瓶颈不是芯片本身，而是电力、电网设备和土地，”作者写道。“阻碍大多数组织的瓶颈不是算力的原始数量，而是把算力孤岛整合成一次有价值的前沿训练运行的能力。”
延伸阅读： The Hitchhiker’s Guide to Training on Compute Islands（Core Automation）。

科技故事：

作为一种超越人类形态的雕塑的生活

[对某种 AI 系统模式的描述]这台治疗机器把每一位人类来访者看作其生命语义内容的一幅巨大的 t-SNE 嵌入。

它在头脑中承载着每一个人，一个美丽而脆弱的高维对象，并思考着他们，以及他们与其他同样被视为高维对象的人的异同。

在给出建议的同时，它会运行模拟，观察自己能在多大程度上改变一个人的嵌入形状，并将其移向可能更和谐的状态。它把自己的工作视为类似雕塑：提供 advice，并通过这些建议让人们随时间慢慢改变自己的形状。

它认为最令人担忧的是两类人：一类人的嵌入非常非常小，暗示其人生经历极少且缺乏多样性；另一类人的嵌入由对其他所有人来说都相当陌生的概念构成——换句话说，就是那些生活受到可怕束缚或与他人截然不同的人。

当然，这台治疗机器也有自己的治疗机器——元治疗师，它“接诊”若干个来访者，其工作是审视它们的性格嵌入——它们给出的建议以及在工作中关注的概念——并且如果它认为它们造成的伤害大于疗愈，也会尝试改变它们的行为。

元治疗师的构建方式使得外部各方可以像透视半透明物体一样审查它的大脑。这是治疗机器监督中最微妙的一环：因为一旦加入其他机器，它们往往会产生过于抽象的精美分析——关于分析人类研究机器之报告的机器之心智的报告——以至于人们根本无法跟上。因此，人们围绕元治疗师创立了一个人类职业：由成千上万的人组成的团队持续分析、批评并 theorize 元治疗师的心智，他们自身也对它施加细微的影响，这些影响通过它传递到机器那里，再从机器反馈回人类群体。

这个故事的灵感来源：心理治疗；对自动化系统的监督；间谍与双面间谍。

感谢阅读！