Google 称自我改进的 AI 仍很遥远：内部数据显示 AI 研究未见加速

Google 工程师 Haydn Belfield 表示，自我改进的 AI 仍然遥远，尽管显著的自动化已经在发生。

据 Belfield 称，Google DeepMind 尚未观察到由 AI 自身驱动的 AI 研究可衡量的加速。这并不意味着显著的自动化没有在发生：目前超过 75% 的生产代码由 AI 编写。但据 Belfield 称，约 88% 的代码变更仍需要人工监督或审查，且每次变更在提交前都会由人工审查。完全交给 AI 的代码变更比例从 7.5% 上升到 11.9%。

任务越复杂、越耗时，AI 独立完成的可能性就越低。在 1,389 次内部 Argon 智能体运行中，无需人工介入的成功率随着复杂度增加而急剧下降。Belfield 表示，人类在创造性研究、新颖实验设计、诊断微妙的训练不稳定问题以及长期规划方面仍然不可或缺，Belfield 说。对十二位 DeepMind 资深研究人员的调查证实了这一模式：自动化在定义明确、可验证的任务上运行得最好，而在开放式的科学构思上最低。

在 DeepMind 的内部基准测试 RE-Bench（包含 74 项真实的机器学习工程任务）上，Argon 能解决其中约一半。相比 Gemini 3.7 Flash 的 27% 已是巨大跃升，但距离完全自动化所需的近乎完美的表现仍相去甚远。

Google 自己的能力指数显示 AI 研究没有提速

为了系统地追踪进展，团队构建了一个通用能力指数（GCI），覆盖 123 个模型和 92 项基准测试。Gemini 模型的能力以每月约 0.1 个 GCI 点的稳定速度增长，速度没有显著变化。团队将 Gemini 4 Argon 略高于趋势线的表现归因于更多的算力和组织投入，而非 AI 驱动的加速。

团队目前将 AI 驱动的研究自动化带来的风险评为低，但正在构建测量基础设施，以便在未来追踪加速的迹象。

Belfield 的发现与 最近的研究一致，但该领域并非人人都认同。包括 Geoffrey Hinton、Yoshua Bengio 和 OpenAI 的 Jakub Pachocki 在内的 20 多位 AI 研究人员最近在一份研究论文中警告可能出现“智能爆炸”。他们认为，AI 系统可能在几年内实现所有 AI 研发工作的自动化，把通常需要数年的进展压缩到仅仅几个月。

没有炒作的 AI 新闻 – 由人工精选

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、每年六期的独家“AI Radar”前沿报告、完整档案访问权限以及评论区的访问权限。