跳到正文
Import AI· Jack Clark·· 3 小时前AI 评分48

Import AI 479: Realtime-Bench 揭示 LLM 低延迟短板、DIA 太空安全报告与 Genie 4

Import AI 479: Spacewar; low-latency tasks versus LLMs; Genie 4

AI 导读

研究人员推出 Realtime-Bench,评测大语言模型在实时交互任务中的表现,涵盖 50 个游戏和网络任务,考察时间状态感知、自适应推理和时间感知动作选择三项能力。测试中 GPT-6 Astra (high) 在 wall clock 设置下以 36% 的通过率居首,而暂停时钟后高推理模型可达 70%-80%。同期内容还包括美国国防情报局的太空安全报告与 Genie 4。

正文 · AI 翻译

欢迎阅读 Import AI,这是一份关于 AI 研究的新闻通讯。Import AI 依靠 arXiv、卡布奇诺和读者反馈运转。如果你想支持我们,请订阅。

大语言模型非常不擅长低延迟任务:
……Realtime-Bench 表示,AI 系统还需要一段时间才能替你玩游戏或进行在线竞拍……
研究人员构建了 Realtime-Bench,这是一个“由精心策划的动态任务组成的测试集,其中延迟的操作会直接影响成功率”。该测试有助于评估现代通用 AI 系统在需要实时决策的任务中的表现。
该基准包含 50 个交互式游戏和网页任务,分为 30 个网页任务(涵盖旅行、电商、服务和安全四个类别)和 20 个游戏任务(涵盖街机、解谜、策略和模拟)。

研究者是谁:该基准由来自德克萨斯大学奥斯汀分校、俄亥俄州立大学、伊利诺伊大学香槟分校、NVIDIA、西北大学和 Steadyworks 的人员构建。

它测量什么:该测试旨在探测三种能力:时间状态感知(“RT-Perceive”),即模型能够利用观察来追踪世界的变化;自适应深思(“RT-Deliberate”),即模型能根据可用时间调整推理的长度和深度;以及时间感知的行动选择(“RT-Act”),即模型需要根据情况恰当地把握行动时机。
“例如,一个购票智能体必须追踪销售状态并评估观察到的余票是否仍然有效(RT-Perceive),在购买窗口即将关闭时限制进一步的深思(RT-Deliberate),并在等待开售与在票仍可购时立即购买之间做出选择(RT-Act)。”
他们设置了三种不同的条件:真实时钟(Wall clock),旨在测试现实世界延迟下的表现;暂停时钟(Paused clock),可任意暂停以了解基线能力;以及令牌时钟(Token clock),它“以每个生成令牌固定的速率推进环境。操作在其提交时达到的模拟时间被执行,因此无论实际推理延迟如何,消耗更多令牌都会延迟执行”。

模型表现如何?作者测试了 OpenAI 的模型(GPT-6-Astra、GPT-5.6 Sol、GPT-Realtime-2、OpenAI Decisions)、Anthropic 的模型(Claude Fable 5.1、Claude Opus 5)、Google 的模型(Gemini 3.8 Flash、Gemini 3.1 Flash Live、Gemini 3.8 Live)、Jev 1.13,以及来自 Deepseek(V4.1)和月之暗面(Kimi-K3)的中国模型。
GPT-6 Astra(high)在“真实时钟”评估设置中获得了最高的通过率,为 36%。
相比之下,在暂停时钟下,高推理能力的模型可达到接近 70% 甚至 80% 的成功率。

为什么这很重要: 这个基准是预测 AI 智能体会在哪里失效的有效代理——这里得分低的地方,就说明 AI 智能体目前还难以在这些任务上表现出色。
查看排行榜:Realtime-Bench(官方网站)。
阅读论文:Realtime-Bench: Can Frontier Models Solve Real-time Interactive Problems?(arXiv)。

***

拜美国国防情报局所赐,太空战的前景:
……反卫星技术、太空核武器等等……
从事 AI 工作可能压力很大,所以有时为了放松,我喜欢读一些其他主题的内容,了解一下别处还藏着什么恐怖的事情。我对抑郁也采取同样的做法:如果我感到难过,我会试着听比我更悲伤的人的音乐,试图让自己振作起来(比如 Radiohead、Neil Young,以及在非常黑暗的时刻 Bill Callahan / Smog 等)。
出于这种心态,我最近读了美国国防情报局的《Challenges to Security in Space》(太空安全的挑战)。

太空中正在发生什么: 与地球上的冲突一样,太空的格局是由美国与中国、俄罗斯、伊朗和朝鲜之间的冲突所定义的,其中中国在技术上最复杂,而俄罗斯看起来最跃跃欲试。
“中国和俄罗斯正在开发一系列强大的进攻性能力,以削弱或摧毁其他国家的太空服务,从动能摧毁到复杂的干扰和网络作战,”DIA 写道。“中国过去十年的年度太空发射次数增长了两倍多,2016 年为 22 次,2025 年达到 93 次……北京判断太空对美国及其盟友的作战至关重要。北京还把太空视为进攻性军事领域,这影响了 PLA 军事规划和作战行动的各个核心组成部分。”

太空战: 读这份 100 多页的报告,你得到的总体印象是,太空中正在发生大量丑恶、可怕的事情,或者地面上的事物正在对太空中的事物做着这些事情。一些示例引文:

  • “到 2020 年代末,中国可能部署天基定向能系统和功率更高的地基定向能系统,能够威胁更高轨道上的卫星”

  • “中国正在开发天基技术,包括在轨反太空武器,能够威胁太空系统”

  • “俄罗斯的 Peresvet 是一种地基激光系统,旨在致盲敌方卫星的光学系统,以掩盖俄罗斯战略导弹系统的动向”

  • “俄罗斯在过去几年发射了几颗卫星,这些卫星在轨道上进行了测试活动,涉及可能使他国卫星遭受攻击并造成暂时或永久损害的技术”

  • 中国有几架类似于美国高度保密的 X-37B飞行器的空天飞机,而且它们似乎正变得更加复杂。2023 年,中国前述飞行器中的一架“释放并与一个物体发生了交互”。

卫星对卫星的战斗: 整份报告显而易见的是,我们所处的世界里,敌对国家拥有试图升上去干扰他国卫星的卫星。

  • “2019 年,俄罗斯发射了卫星 Cosmos 2542,该卫星释放了第二颗卫星 Cosmos 2543。随后 Cosmos 2543 开始跟踪一颗美国国家安全卫星,并多次以足以造成潜在危险运行条件的近距离接近它,”DIA 写道。“俄罗斯正在研发动能轨道系统,以永久性瘫痪或‘杀死’卫星。莫斯科的 Burevestnik 是一种在研的共轨道空射反卫星(ASAT)武器,用于杀死近地轨道(LEO)上的航天器”。

  • “2022 年 2 月,俄罗斯发射了一颗名为 Cosmos 的卫星,莫斯科当时声称该卫星是在测试空间辐射对电子系统的影响。这颗卫星被发射到一个其他航天器均未使用过的异常且孤立的轨道”。

太空核武器:俄罗斯正在试验太空中的核武器。“太空核爆会产生电磁脉冲,会立即影响范围内的卫星,并可能波及民用基础设施,”DIA 写道。“太空核爆可以被定向设计以影响大多数轨道上的卫星——LEO 上的商业和侦察卫星、GEO 上的关键通信卫星,以及 MEO 上的导航与授时卫星”。

为何重要——AI 权力斗争下一阶段的基础设施:随着人们在建设天基数据中心(最终或许是月球数据中心)上投入更多资源,太空将变得越来越具有战略和商业价值,也将越来越充满争夺。像这样的研究让我们得以了解目前已在太空中以及未来将会出现的硬件。也许在某个遥远的未来,AI 也可能寻求控制此类太空资产。
更多阅读: DIA 发布《太空安全挑战》(国防情报局,新闻稿)。
阅读报告:Challenges to Security in Space(DIA,PDF)。

***

Metis:一家试图融合符号推理与神经推理的初创公司:
……迈向火神(Vulcan)式的机器智能……
Metis 是一家旨在构建新型 AI 架构、专注于开发具备更强推理能力机器的初创公司,其发布了一篇研究论文阐述了自身的研究路线。高层概括很简单——Metis 想为现代开放域问题做的事,正如 DeepMind 曾通过 AlphaGo 和 AlphaGo Zero 的工作为棋类等封闭域问题所做的那样。

他们想做什么:其核心构想是为现代 AI 架构添加一个远比今天更可靠fully的推理核心。“在现代 AI 架构中,使 AlphaGo 成为一个成功推理系统的许多周边机制要么仍是隐式的,要么是缺失的,”他们写道。“第一个缺失的要素是一个显式且持久的认知状态……第二个缺失的要素是一个让系统能够选择朝目标推进的推理步骤的准则。”
这更像一篇立场文件而非技术论文,因此他们在此没有给出太多细节。主要思路是基于真实世界的数据收集来训练一个推理策略和价值函数,然后用它来引导系统进行能减少长期不确定性的推理,并让这些机制建立在由关于世界的主张或假设构成的基础数据核心之上。“任何对某条主张证据状态的更改,都必须由证据许可,或通过显式计算加以验证,并经独立判断系统批准,”他们写道。“模型生成的内容不能仅凭看似合理就进入被接受的认知状态;它必须通过担保评估,这会降低幻觉。证据来源可以直接附加到它们所支持的命题上,从而提供清晰的来源链。推理过程因此变得显式可审计。”

为什么这很重要——构建既可靠又极度非人的基底:本文所描述的架构这类构想之所以引人入胜,既因为它们有望提高 AI 系统的可靠性,也因为它们是何等深度地非人化:人类并不是从某个 pristine 的事实基底出发进行推理的,相反,那是一大团由记忆、直觉和某些规则(其中一些习自经验,另一些则似乎更接近柏拉图式的存在,比如逻辑推理的形式)构成的混乱混合体。从这个角度看,当代 LLM 比这里描述的系统更像人类。
“虽然 AI 的历史可以被理解为符号方法与神经方法之间的较量,但把它看作‘两个不完整成功’的故事可能更有建设性,”Metis 写道。“经典系统把推理过程的某些方面显式化了,但依赖于在很大程度上由人工提供的表示、算子、启发式规则和知识。当代 LLM 学会了非凡的语义操作和海量的隐式知识,但把推理的组织、评估与积累留在了隐式层面。”
本文描述的 AI 系统将以一种与人类思考方式截然不同的方式‘思考’,这样的系统或许能让我们更深入地了解人类智能与机器智能之间的差异。
延伸阅读: The Age of Reasoning(Metis,PDF)。

***

Google 召唤 Genie 4,带来更强大的世界建模:
……Google 最有趣的项目之一仍在继续!……
Google DeepMind 公布了 Genie 4 的详细信息,这是其 Genie 世界模型的新迭代版本。该公司目前正在以研究预览的形式向部分受信任的测试者开放 Genie 4,并最终将面向 Google AI Ultra 订阅者推出。Genie 系列模型令人着迷,它展现了一个这样的世界:你可以拍下任何东西的照片并将其变成可交互的环境,或者把一幅 2D 绘图变成电子游戏的舞台,等等。

主要特性: Google 列出了让 Genie 4 有别于前代的四大特性,包括:

  • 实时修改:“你可以用自然语言实时修改模拟——比如改变天气、移动镜头,或引入一个新的人物或物体——Gemini 会结合上下文调整你的提示词,使其与周围场景相匹配。”

  • 物理与人类行为模拟:“Genie 4 可以模拟真实世界的物理场景,例如空气动力学、碰撞等”,它在模拟人物方面也更出色。“最引人注目的飞跃在于 Genie 4 对人物的模拟,它能创建出动作自然、对环境反应自然有机、并且可以被实时交互式操控的角色。”

  • 声音建模:“Genie 4 是我们首个原生生成音频的实时世界模型,”Google 写道。它还“引入了可即时自适应的交互式对话”。

  • 模拟复杂事件:Google 将 Gemini 3.8 Flash 嵌入到 Genie 4 中,让这款快速的 Flash 模型“充当循环中的引导智能体”,提供持续的校准。“Gemini 会持续观察场景,将目标分解为一系列步骤,并审查传入的帧以跟踪进度、验证每一步是否成功。当世界发生变化或用户介入时,Gemini 会即时调整其计划,从而实现具有可靠因果性、程序化行为和多步推理的世界。”

为什么这很重要——迈向由机器梦想出的无数世界: 尽管这项技术目前还相当粗糙(例如机械的声音、可视化环境中梦境般的不一致性等),但它指向了一个我们可以通过创建和提示自定义世界来生成无限形式娱乐(甚至可能是数据?)的未来。
阅读公告文章:Genie 4: A new generation of world simulation(Google DeepMind 博客)。
观看视频:Genie 4: A new generation of world simulation(Google DeepMind,YouTube)。

科技故事:

城市竞赛

[对 2040 年代一款游戏的描述]
“大跃升”之后,孩子们最喜欢的游戏之一叫做《城市竞赛》;在游戏中,他们相互竞争,规划、建造和管理城市,在一颗陌生行星的疆域上不断扩张。

这些城市被困在时间之中,从它们所处时代的技术水平开始,而每一局游戏大约持续一个世纪,让一些进一步的技术发展得以发生。

每局游戏都使用戴森云的一部分资源来运行,从而实现极为复杂的模拟(不过带有本地智能体认知门控,因此没有任何东西能发展到足以被认定为有意识实体的高等程度)。

数十万模拟出来的心智在其中生老病死,有时在由谨慎且高效的所有者管理的城市中蓬勃发展,有时则深陷贫困,或在经济日益空心化的地方老去,成为他人成功的牺牲品。

人们认为,让孩子们在成年之前先学会做神明意味着什么,是件好事。每局游戏结束时,孩子们需要在他们玩过的游戏世界中的每座城市里各生活一天;那些建造了奇妙城市的孩子会亲身体验自己创造的奇迹,然后走过那些因他们的成功而停滞不前的破败城镇。那些挣扎求存的孩子则住进自己黄昏般衰败的城镇,然后前往那些注定了他们命运的遥远之地参观。

本故事的灵感来源:Iain M Banks 的《游戏玩家》(Player of Games);《模拟城市》(Simcity);博弈;城市设计;赫尔曼·黑塞的《玻璃球游戏》。

感谢阅读!

没有文章

来源: Import AI · importai.substack.com