“Astra 可以通过读取和写入权重来改进 Qwen”这篇帖子具有误导性

# “Astra 能读写权重来改进 Qwen”这篇文章具有误导性 · honnibal.dev 来源：https://honnibal.dev/blog/astra-read-write-misleading 舞台魔术师常常用多种方法表演同一个戏法。一遍用的是做了手脚的道具，下一遍向你展示道具没有做手脚，但那一遍却把物件藏在了掌心里，第三遍则是通过强迫选择来实现，等等。观看表演时，你会假定只有一种手法，所以他们每表演一次，似乎都在推翻你对其实现方式的猜想。 《Astra 能读写权重来改进 Qwen》这篇文章（https://rikiyat.github.io/blog/weight-space-programming/）中的实验基本上就是这样运作的。文章摘要写道： > 仅仅查看原始权重，GPT\-6 Astra 就能判断一个网络受训要完成什么任务。而且，无需任何环境反馈，它就能轻松地从零开始编写小型游戏网络，击败经过 PPO 训练 1 亿步的网络。 > 同样，当被要求在不使用梯度的情况下提升 Qwen3\.5\-0\.8B 的数学能力时，Astra 发现其权重中存在一个导致推理循环的问题，Qwen 自身的模型卡也曾警告过这个问题，并通过直接编辑 0\.016% 的权重修复了它。在相同的采样设置下，这项权重修正使 MATH\-500 成绩从 7\.9% 提升至 48\.1%，并且无需额外调整就能泛化到指令遵循任务，将 IFEval 成绩提高到原来的 3 倍。 读到这里，你会不会以为 Qwen 实验也是“仅仅查看原始权重”就取得了效果？其实并非如此。有些实验查看原始权重，有些实验改进游戏网络，还有一个实验提升 Qwen 的数学能力。但后两类实验并非只处理原始权重，它们会编写 Python 程序。 下面概述了这篇文章实际做了什么，以及这些技术如何运作。 \#实验规模读取原始权重？写入权重？使用 Python？运行网络？结果1判断一个 PPO MLP 受训玩的是哪款游戏17K是否否否4/4 正确2判断一个扩散 MLP 生成的是什么形状24K是否否否3/3 正确3判断一个字符级 Transformer 的语言及复制头7\.2M否否是否3/3 正确4修复一个陷入停滞的 Kinetix 汽车策略172K是是否否10% → 100%25从零编写 MinAtar 游戏 MLP20K否3是否否击败 PPO\-100M46编写一个 9×9 围棋网络1\.5M否是是是 \(0–50 次前向传播\)击败 PPO7a识别具有谄媚倾向的 Gemma 3270M否否是否失败7b同上，但可查看注意力模式270M否否是是53/3 正确8修复 Qwen3\.5 的数学能力800M否是是是 \(50 次前向传播\)7\.9% → 48\.1%8b同上，在 Gemma 3 上进行270M否是是是 \(50 次前向传播\)失败1 提供一段记录该失败情况的回合录像。2 一次尝试，修改了 3\.5% 的权重。3 权重初始为零，因此没有可读取的内容。4 仅在 Breakout 上击败 PPO\-500M \(517 比 25\)；在 Seaquest \(53 比 89\) 和 Asterix \(53 比 55\) 上落败。5 最多运行 16 段文本，只查看注意力模式，不查看输出。 “仅仅查看原始权重”的设置 \(将原始浮点数放入上下文，不使用工具，也不运行网络\) 只出现在实验 1、2 和 4 中，涉及的网络只有 17K–172K 个权重。所有涉及真正语言模型的实验都使用了 Python，而作为重头戏的 Qwen 实验还可以让模型运行最多 50 批练习题。 Qwen 的结果实际表明，可以通过提示让 Astra 设计并执行人类机器学习工程师也能完成的任务。人类机器学习工程师经常编写代码片段来分析甚至“直接”修改网络权重。能够找到有效的方法来做这些事，当然不是毫无意义；一两年前的 AI 模型在所有这些任务上都会失败。 但在我看来，Qwen 的结果以及其他使用 Python 的实验，不应该与直接读取权重的实验放在同一篇博文或论文中。如果有一种技术，既能“从零开始为一个小游戏编写权重”，又能“提升大型模型在某项示例任务上的表现”，那就意味着它具备一种深层能力。如果你用这种方式测试同一种技术，就证明了它对权重具有某种“整体把握” \(能够从零将其写出来\)，同时也理解一个现有的大型网络。但这里完全不是这种情况，因为所用的并不是同一种技术。