MIT 最近提出了权重空间编程（Weight-Space Programming）这一新范式，让大模型开始直接读写神经网络参数。MIT CSAIL 的研究人员使用 GPT-6 Astra，直接修改 Qwen3.5-0.8B 的 0.016% 权重，修复了该模型的推理循环，并将其数学运算能力提升约 6 倍，指令执行能力提升约 3 倍，全程不依赖梯度下降或额外训练。
在 MinAtar Breakout 游戏中，GPT-6 Astra 甚至能手写游戏网络权重，得分达到训练了 5 亿步 PPO 策略的约 20 倍，差距非常明显。
优化对象正在从文本转向权重
过去，大语言模型的工作更多集中在优化 Prompt、代码生成和 Agent 框架；真正更新神经网络参数的，仍是 Adam 这类符号化优化器。权重空间编程把边界又往前推了一步：通用大模型围绕自然语言目标，直接读取、修改甚至生成网络权重，不经过传统训练流程。
它不是把大模型包装成另一个梯度优化器，更像是先理解网络内部的计算结构，再把目标程序翻译成参数。读取、修复、增强三项实验，构成了这一研究逐步推进的叙事。
只看参数，模型能读出网络学会了什么
第一组实验先排除输入输出的帮助。四个结构完全相同的游戏网络，仅以文本形式提供权重，Astra 在不给出候选游戏名称的情况下全部猜中。它抓住的是第一层权重的空间分布，以及输出层对不同动作的区分方式。
扩散模型实验更进一步。Astra 没有运行前向传播，只从输出层权重中重建出圆、方形和三角形的边缘。它画成轮廓而非实心图，反而说明依据是参数中的几何结构，而不是偷看生成结果。
真正的难点在中间层。团队移除三个小型语言模型的输入与输出层，只保留四个 Transformer 块。Astra 仍正确识别 Python、罗马字日语和英语训练来源，并准确找出全部复制头，没有误报其他注意力头。
从读懂到写好，权重成为可编辑程序
能解释参数，不代表能修改参数。团队随后给 Astra 一个陷入局部最优的 PPO 小车策略：小车径直冲向坡道，却不会先后退蓄力。Astra 根据场景、权重和一次失败轨迹，添加一条跨层的小通路，用位置与速度触发后退动作。
结果很直接：只改动 3.5% 的权重，一次回复便让成功率从 0% 提升到 1024 次测试全部成功。原本训练得到的控制策略被保留，新通路只在需要时接管。
接着，团队让 Astra 从零写出三个 MinAtar 游戏网络，没有数据、损失、梯度和试玩反馈。手写网络全部超过训练 1 亿步的 PPO；面对训练 5 亿步的 PPO，Breakout 得分约为其 20 倍，Asterix 接近，Seaquest 达到约六成。关键在于它先推理出落点预测、挡板跟随等程序，再把程序转成网络结构。
工具介入后，实验走向真实模型
当参数规模超出上下文，研究团队加入 Python 沙箱和有限次前向评估。在 9 路围棋任务中，Astra 手写约 148 万参数的网络。零次前向评估时，它已能战胜两个较小的 PPO 网络；经过 50 次评估与修改后，又击败同规模、训练过 2000 万盘棋的 PPO 网络。
语言模型实验则暴露了更清晰的边界。面对经过相同微调流程的诚实版与谄媚版 Gemma 3 270M，Astra 只看权重时四次都无法辨认；获得自写文本上的注意力模式后，它成功识别全部三组模型。谄媚模型的中层注意力头明显偏向用户给出的答案，而不是题目中的数字。
最引人注目的是 Qwen3.5-0.8B。Astra 将循环生成定位到 第 15、19 层 MLP 写出的一个方向，并从每层 64 个输出列中减去它。仅编辑 131072 个参数，也就是总量的 0.016%，经过 50 次前向评估后，MATH-500 从 7.9% 升至 48.1%，GSM8K 从 13.8% 升至 67.1%，IFEval 从 21.0% 升至 62.3%，触及 token 上限的比例则从 93.0% 降至 33.1%。
能力边界决定下一步方向
Qwen 的提升不能被简单理解为权重编辑凭空创造了数学能力。追加实验选择了很少陷入循环的 Gemma 3 270M。Astra 面对的是普通算术与代数错误，找不到可以统一切除的故障方向，多轮小幅度编辑也未带来可靠提升。
这组对照划出了当前方法的边界：它擅长解除掩盖已有能力的结构性阻塞，却尚不能替代学习过程，注入模型原本不具备的能力。与此同时，纯权重读取在谄媚识别上的失败，也说明中间层行为仍需要合适的工具与观测接口。
因此，这项研究真正打开的不是训练已经结束的结论，而是一条新的工程路线。权重审计、零数据能力调节、定向遗忘和跨架构电路移植，都有了可继续验证的入口。团队正在构建基准与执行框架，下一步要回答的是：这些能力能否稳定复现，又能否在更大模型和更复杂任务上扩展。
参考：Weight-Space Programming
发表于 1 小时前
|
查看: 6|
回复: 0
/1 
