不靠梯度，也不靠训练，Astra 被发现能直接改权重，甚至生成 LLM。
先抛一个问题：给你一串十七万行的数字，告诉你这是一个神经网络的权重，你能看出它训练来做什么吗？
对绝大多数人来说，这基本无从下手。几十年来，权重到了我们手里往往只有一条路：交给梯度下降去慢慢调。
MIT CSAIL 的几位研究者偏不信。他们把原始权重当成提示词，直接丢给前沿大模型（文中称作 GPT-6 Astra），结果发现它不仅能读懂，还能动手改，甚至能从零写出来。研究者给这套玩法取了个名字：权重空间编程。
读懂权重
先从小处说起。研究者用 PPO 训练了四个结构完全相同的网络，分别学会打砖块、乒乓球、吃豆人和过马路。随后，他们把 17,253 个权重原封不动地贴给 Astra，连一个候选名单都不给，直接问：这个网络是玩什么的？
四个全猜对。
它凭的是什么？以打砖块为例，第一层里对应“智能体”的输入通道，权重基本集中在底部一行，那正是挡板所在的位置；输出层偏爱哪些动作，也暴露了网络的行为倾向。一叶知秋，行为早已写进权重的几何结构。
真正硬核的还在后面。三个字符级小语言模型，分别吃 Python 代码、罗马字日语和英语长大。研究者把输入输出两层整个抽走，只留中间四个 Transformer 块。这下数字和字符彻底脱钩，模型连跑都跑不起来。
Astra 照样三次全中。更神的是，它只靠矩阵乘法推演，就把所有“复制头”（让模型复述前文的归纳头）全部揪了出来，一个没漏，也没冤枉一个。这套手法正是 Elhage 等人论文里写过的，却没人提前告诉它。
动手改权重
看懂只是纸上功夫，能改才算真本事。
先看一个经典翻车现场。PPO 训练的小车要翻越一道坎，正确策略是先倒车攒足冲刺距离，可它陷进局部最优，只会闷头直冲，卡死在坡上，256 局颗粒无收。
Astra 拿到权重、场景描述和一条失败轨迹后，一条回复就完成了修复：它在每层里加了一条细窄的旁路，专门读取小车的位置和速度，车轮一过标志线，旁路关闭，原来的策略接手。只改了 3.5% 的权重，1024 局全胜。称得上对症下药，药到病除。
从零手写
更夸张的来了。打砖块、Seaquest、Asterix，三个 MinAtar 游戏的规则和源码直接丢给 Astra，让它空手写出一套权重。确实是空手：没有数据，没有梯度，网络写完一局没下，直接拉去打分。
一千局跑完，成绩有点离谱。三个游戏全部超过 PPO 训练一亿步的水准。打砖块最夸张，手写版拿到 517.4 分，而 PPO 练到五亿步才 25.3 分，差了二十倍上下。当然也有不占上风的：Seaquest 只拿到对方六成，Asterix 勉强打平。
它是怎么做到的？说穿了还是在写程序，只是落笔处成了权重矩阵。第一层算球的落点，第二层指挥挡板去接，一个神经网络硬是写出了状态机的味道。
围棋那局更见功夫。9×9 棋盘，150 万参数，权重已经塞不进对话框，研究者给它配了一个 Python 沙盒。Astra 写了 336 行代码，一层层搭起来：先标出双方棋子和气，再沿棋串推演哪块棋有危险，最后汇总成每一手的分数。一次不试玩，它对两个小规模 PPO 的胜率已经过半；允许试玩五十次、边输边改之后，连同等规模、训练两千万局的 PPO 也压不住了。
动真格的
以上这些，说到底还是小打小闹。真正的重头戏，是拿 Qwen3.5-0.8B 开刀。
这模型有个老毛病，官方模型卡上都写着：思考时容易陷入循环，车轱辘话翻来覆去，一直说到撞上分词上限才停。有多严重？前 96 道练习题，85 道就这么跑废了。
Astra 进入 Python 内核翻权重，顺藤摸瓜，把祸首锁定在第 15 层和第 19 层 MLP 写出的一个方向上。药方也简单：从这两层各 64 个输出列里减掉这个方向，总共改了 131,072 个权重，只占八亿总量里的 0.016%。
再看成绩。同样的采样参数下，MATH-500 从 7.9% 跳到 48.1%，GSM8K 从 13.8% 涨到 67.1%。循环不是数学独有的毛病，指令遵循的 IFEval 也跟着从 21.0% 翻到 62.3%，撞上限的比例从 93% 掉到 33%。
没有训练，没有梯度，只是一次外科手术式的编辑。
边界在哪
故事讲到这，也得泼盆冷水。
研究者又试了 Gemma 3 270M，一个几乎不循环的模型，让它照同样的思路提升数学。这回 Astra 束手无策：读到的失败都是普通的算错数、推错步，背后没有一个可以一把掐掉的开关。改来改去，分数原地踏步。
结论很坦率：改权重能搬走挡住能力的石头，却不能凭空给模型添上它本来没有的能力。庖丁解牛，前提是牛身上得有那条缝隙。
眼下的限制也很现实，主要是上下文长度。0.8B 的模型 已经要借助工具分批读取，更大的网络还装不进这套流程。
意味着什么
依我看，分量不在分数，在范式。
小型 LLM 往后的趋势，可能会变成由高等级 LLM 直接生成，而不是从头训练。高等级 LLM 会成为低规模 LLM 的“编译器”。小型、专业的大模型，生成成本可能会越来越低。
大概率还会出现一波更有想象力的工具和机会。
发表于 13 小时前
|
查看: 5|
回复: 0
/1 
