GPT-6 Astra 通过直接改写权重重新编程其他 AI 模型

通常那种一步步进行数学优化的训练流程不再需要。根据实验的不同，Astra 可以直接处理数字列表，或使用编程工具和测试运行的反馈。

研究人员将这一方法称为“权重空间编程”（Weight-Space Programming）：不再花费高昂代价重新训练 AI 模型，而是让一个语言模型像技工一样逐个旋动旋钮。

Astra 仅通过查看模型的原始数字就能识别游戏

在多项实验中，研究人员将训练后网络的原始权重输入给 Astra，并询问这些网络学到了什么。Astra 正确识别出网络应该玩四款电脑游戏中的哪一款。它还识别出了图像生成器生成的基本形状，尽管它混淆了填充形状和轮廓。它也正确匹配了小型语言模型的训练语言——全程无需访问训练数据，也没有运行模型的能力。

在另一项测试中，Astra 需要判断两个经过微调的语言模型中哪一个被训练得总是迎合用户。仅凭权重，它起初无法区分。只有当 Astra 还能观察模型在文本处理过程中关注什么时，它才在全部三组模型对中正确识别出了那个谄媚的模型。

从零编写的模型击败了训练出来的对手

Astra 更进一步：它仅根据游戏规则和源代码，完全不经训练，为旨在玩三款简单电脑游戏的模型生成了权重。据研究人员称，这些模型的表现优于用标准方法经过 1 亿轮训练的模型。在《打砖块》（Breakout）中，Astra 的模型平均得分为 517 分，而训练基线仅为 25 分。在另外两款游戏中，Astra 落后于训练时间最长的版本。

对于 9x9 棋盘的围棋，Astra 编写了一个约 150 万参数网络的权重。在 50 次测试迭代的预算下，每轮网络最多进行 128 场练习对局，然后由 Astra 修正其权重，最终它击败了一个用约 2000 万局对局训练出的规模相近的模型。

针对性修复，而非全面重训

最具实用性的实验涉及语言模型 Qwen3.5-0.8B。Astra 的任务是提升其数学能力，使用编码环境以及带有练习题的 50 次测试迭代。评估则在 Astra 从未见过的一组独立问题上进行。

Astra 发现了一个 Qwen 官方 模型文档 中已警告过的问题：思维循环，即模型无限重复同样的文本而无法得出答案。随后 Astra 仅修改了全部权重中的 0.016%。结果是：在 MATH-500 基准上的准确率从 7.9% 跃升至 48.1%。指令遵循能力从 21% 提升到 62%。不过思维循环并未被完全消除，仍有三分之一的回复达到了最大文本长度，虽然此前这一比例为 93%。

对于一个很少陷入这类循环的更小模型（Gemma 3 270M），Astra 未能带来任何可测量的提升。

研究人员推测，Astra 能够清除 Qwen 模型中一个抑制既有能力的阻塞点，但在此实验中，模型从根本上缺失的技能无法仅靠改写个别权重来添加。

旧新闻还是新范式？

AI 先驱 Jürgen Schmidhuber 在 X 上评论称这一方法是“老掉牙的东西”，并举出他自己 20 世纪 90 年代的工作。Khattab 回应说，他们链接了那些论文，那些论文“远远领先于其时代”。他表示，新的地方在于当今的语言模型能在人类语言与网络的数值之间进行多好的翻译。

研究人员认为，他们的方法在诸如直接对模型权重进行安全审计、或在无需昂贵重训的情况下进行定向行为改变等方面具有潜力。他们也承认这些能力仍然有限。用于系统性测量的基准测试是他们接下来的计划。实验日志在 GitHub 上，被编辑过的 Qwen 模型在 Hugging Face 上。