人类的情绪是一种体验，由身体和意识共同塑造。但 大型语言模型 的情绪完全不同：它没有身体，也没有意识，情绪只是一种被计算出来的功能性输出。也正因如此，当我们面对模型表现出的“愤怒”“悲伤”“愉悦”时，总会有一种错位感——我们清楚那不是体验，而是模式。
这类模式背后到底由什么驱动？过去几年，研究者已经从模型内部找到了情绪空间、情绪方向、情绪电路，甚至能通过注入某些向量让模型变得更开心或更愤怒。但这些成果更多只是“能看到”，却不一定“能解释”。模型内部的情绪方向本身也是情绪的产物，用它来解释情绪，多少带有自我循环的意味。情绪维度空间还往往越做越大、越做越没有终点，像在不断添加新标签，而不是找到真正的底层原因。
最新研究提出一个很直接的想法：既然情绪标签和情绪维度都不够基础，那么是否存在一种更原始的语义成分，可以成为情绪的解释变量？答案来自一个看似与 AI 相距较远的领域——语言学。自然语义金属语言（Natural Semantic Metalanguage，NSM）提出了一套跨语言的语义原子，它们是不能再化约的语义基元，比如“我”“做”“坏”“感觉”“想”“不”。这些词在所有语言中都能找到对应表达，也是所有复杂概念的底层构件。
研究的核心问题是：模型内部是否真的编码了这些语义原子？如果有，它们能否解释模型的情绪计算？如果能，它们是否比情绪标签和 appraisal 更基础、更因果、更忠实？这篇文章将围绕这些问题展开。
代码和数据地址：http://github.com/fxing79/pcs
01 情绪解释的科学标准
要解释模型情绪，不能只看它能否表现某种情绪，还要看解释变量是否满足科学解释的基本要求。研究提出四个标准：存在性、因果性、忠实性和基础性。
存在性意味着解释变量必须真实存在于模型内部，而不是探针幻觉。探针能读出来，不代表模型真的用它。研究通过对比长度基线和控制任务，证明语义原子在模型内部可解码，而且远高于随机水平。
因果性意味着当对解释变量进行干预时，模型情绪输出必须发生变化。研究在中层注入语义原子方向后发现，语义原子组合方向对情绪的操控强度是 appraisal 的 3 倍，选择性是 2 倍。这说明语义原子并不是被动存在，而是实际参与情绪计算。
忠实性意味着模型在行为上把解释变量当成情绪本身。研究测试了模型对语义原子构成的解释句的分类能力，发现模型能仅凭解释句判断情绪，而且比同类情绪的干扰句更准确。也就是说，模型在行为层面认可语义原子解释。
基础性是最关键的一点。情绪标签是循环定义，appraisal 维度又不够基础；语义原子则是不可再化约的语义底层。解释链条能否终止，决定了一个解释是否真正“科学”。语义原子在解释链中的位置，正是情绪的最底层构件。
图 1：如何对 LLM 计算并输出情绪给出好的因果解释？从科学解释文献可得出三项测试：（1）真实：它存在于内部；（2）因果：干预它会使情绪移动；（3）忠实：模型表现得好像它就是情绪。三个候选者都通过了测试，但程度不同。最能区分它们的是第四个纵向的基础性轴：解释必须比被解释项更基础。情绪标签是循环的，appraisal 只部分还原；只有 NSM primes 在定义下限处触底。
02 NSM 语义原子：跨语言的语义基元
语义原子来自自然语义金属语言，是语言学界提出的一套跨语言共享的语义基元。它们是不可再化约的语义底层，所有复杂概念都可以由它们组合解释。例如 guilt 可以拆成“我做了坏事”“我感觉不好”“我不希望这件事发生”。这些句子里出现的正是语义原子。
语义原子的理论来源，是语言学界对跨文化语义一致性的研究。它们不是标签，而是语义结构的最小单位。正因不可再化约，它们比 appraisal 更基础。appraisal 维度本身就带有情绪色彩，例如“愉快”“不愉快”“责任感”，这些词并不比 guilt 更基础。
研究中的关键公式展示了情绪读出方向与语义原子方向之间的关系：情绪方向可以看作语义原子方向的组合，只不过这种组合不是线性的，而是模型内部的非线性语义机制。
公式里，w_e 是情绪读出方向，v_p 是语义原子方向，P(e) 是某种情绪对应的语义原子集合，f 是模型内部的组合函数。这个公式并非本文作者自行发明，而是原研究中的核心表达，用来说明情绪是语义原子的组合结果。
以 guilt 为例，它的语义原子包括“我”“做”“坏”“感觉”“想”“不”。这些原子在模型内部都可以被解码，而且干预时能显著改变模型的 guilt 输出。语义原子与模型内部语义的潜在对应关系也在实验中得到验证，尤其是“我”和“某人”这类 agency 原子，在情绪区分中起了关键作用。
语义原子之所以能成为更好的解释变量，是因为它既真实存在、可被因果操控、在行为上忠实，同时又是语义结构的底层。情绪标签和 appraisal 都做不到这一点。
03 语义原子对比数据集的构建
要验证语义原子是否真的存在于模型内部，研究首先做了一件基础但关键的工作：构建一个语义原子对比数据集。核心思路是用最小对比句来测试模型是否真正理解某个语义原子。所谓最小对比句，就是两句话内容几乎一致，只差一个语义原子。比如“护士想弹钢琴”和“护士弹了钢琴”，差别只有“想”。如果模型能稳定区分这两句，就说明它内部确实编码了“想”这个语义原子。
正例和负例的设计非常严格。负例不能出现语义原子的任何词形，也不能用同义词替换概念；句子长度要尽量匹配，避免模型靠字数判断；模板要足够多样，不能让它靠固定结构猜答案。为了验证泛化能力，研究还做了 held-out 模板，即模型完全没见过的句式，再让探针在这些句子上测试。
为了避免探针幻觉，研究引入 Hewitt-Liang 控制任务。这个任务的作用是判断探针是否只是拟合了结构，而并非模型真正编码了语义原子。如果控制任务表现接近随机，而真实任务显著更高，就说明语义原子确实存在。
整个数据集覆盖 32 个语义原子，其中 22 个是在情绪解释中真正需要的原子。数据集规模达到 11,902 对句子，既足够大，也足够多样。更重要的是，这个数据集完全公开，任何人都可以复现实验。这在 LLM 解释性研究中非常重要，因为很多解释性工作依赖模型内部细节，复现难度很高。
这个数据集的意义在于，它给语义原子的存在性提供了一个可操作的验证框架。过去我们只能猜测模型是否理解这些语义基元，现在可以用对比句直接测出来。这也是解释性研究从“看起来像”走向“确实存在”的关键一步。
04 实验一：语义原子在模型内部的存在性
有了数据集之后，研究开始验证语义原子是否真实存在于模型内部。作者选了 4 个不同规模、不同家族的模型，从 1B 到 9B 级别都有。这样做的目的很明确：证明语义原子不是某个模型的特殊表现，而是普遍存在的内部结构。
实验结果非常清晰。32 个语义原子中，有 30 个在所有模型中都能稳定解码。探针在 held-out 模板上的准确率能达到约九成，而控制任务只有约五成，接近随机；长度基线也只有约六成。这说明探针不是靠字数判断，而是模型确实编码了这些语义原子。
更有意思的是，“我”“做”“坏”“感觉”这些情绪解释中最关键的语义原子，全部都能稳定解码。也就是说，情绪的语义构件确实存在于模型内部，而且可以被读出。
存在性是解释的第一步。如果一个变量根本不存在，就不可能解释模型行为。语义原子通过这一实验证明，它们不是探针幻觉，而是模型内部真实存在的语义结构。
图 2：Llama-3.2-1B 上的存在性测试：每层 prime 解码，在 32 个语义原子上取平均。保持模板精度（红色）上升到 0.91，远高于 Hewitt-Liang 控制任务精度（灰色，接近机会线 0.5）和长度基线（虚线）；阴影区域代表将语义表示与探针伪影分离的选择性。
05 实验二：语义原子对情绪的因果操控
存在性只是第一步，真正关键的是因果性：如果干预语义原子方向，模型情绪输出是否会发生变化？如果会，就说明语义原子不仅存在，而且参与了情绪计算。
研究选择在模型第 11 层进行干预。这一层通过激活补丁定位，是情绪形成的关键中层。干预方式很简单：往残差流里加入一个方向向量。这个方向可以是情绪读出方向、appraisal 方向、语义原子方向、语义原子组合方向，甚至随机方向。
实验结果非常惊人：语义原子组合方向对情绪的操控强度是 appraisal 的 3 倍，选择性是 2 倍。也就是说，语义原子不仅能让模型更“愤怒”或更“愉悦”，还能更精准地控制目标情绪，带来更少副作用。
另一个值得注意的现象是 agency 轴的表现。“我”和“某人”这类语义原子，对愤怒和内疚的区分非常关键。干预这些原子时，模型情绪变化尤其明显。这说明模型内部情绪结构确实依赖这些语义原子。
同时，语义原子方向与情绪方向几乎正交。这一点很重要，因为它说明语义原子不是情绪方向的线性分量，而是通过模型内部的非线性机制组合出来的。换句话说，情绪不是简单的向量叠加，而是语义结构的组合结果。
在更大的模型里，线性组合会失效，但语义解释句仍然有效。这说明模型规模越大，内部机制越复杂，但语义原子的行为忠实性依然存在。
因果性是解释的核心标准。如果一个变量能够通过干预改变模型输出，那它就是模型内部机制的一部分。语义原子通过这一实验证明，它们不仅存在，而且参与了情绪的生成。
图 3：引导头对头比较（Llama-3.2-1B）：prime（红色）、appraisal（蓝色）、emotion（黄色）。（a）平均目标 logit 偏移与剂量的关系。（b）所有正剂量下的选择性与偏移；右上角更好。prime 在两个轴上都压制 appraisal；emotion 方向是读取的天花板——控制效果最好，但解释力最弱。
06 实验三：语义原子解释句的行为忠实性
要判断模型是否真正“理解”某个概念，最直观的检验方式，就是看它在行为上是否把该概念当成它应该是的样子。语义原子解释句的行为忠实性实验，问的正是这个朴素的问题：模型是否把语义原子拼出的解释句，当成真正的情绪？
研究把每种情绪的语义原子解释句单独输入模型，让模型判断这段话对应哪种情绪。句中没有情绪词，没有标签，只有语义原子构成的解释句。结果很值得注意：模型在完全没有情绪词的情况下，仍能把解释句分类到正确情绪类别，而且准确率远高于随机水平。更重要的是，模型不仅能认出正确情绪，还能区分解释句和干扰句。比如内疚和羞耻的解释句非常接近，模型依然能分辨出哪一个是目标情绪。
为了进一步验证语义原子的作用，研究还做了删除实验。把解释句中的语义原子逐个删除，观察模型情绪判断的变化。结果显示，删除核心语义原子时，模型情绪判断下降非常明显；删除外围语义原子时影响则很小。这说明模型确实依赖这些语义原子来理解情绪，而不是靠句子的表面结构。
更关键的是，语义原子解释句的效果明显优于 appraisal 描述。appraisal 描述通常是一组情绪维度组合，比如愉快、不愉快、责任感、控制感等，但模型对这些描述的反应远不如对语义原子解释句的反应。这意味着语义原子在模型内部语义结构中更基础，也更贴近模型的真实计算方式。
行为忠实性是解释的最终检验。如果一个变量能让模型在行为上表现出与情绪一致的反应，那它就不只是内部结构，而是模型真正使用的语义构件。语义原子通过这一实验证明，它们不仅能解释模型内部机制，也能解释模型的输出行为。
图 4：行为定义层。当要求模型用更简单的术语重述单词时，在全部四个模型中，与长度和类别匹配的非 prime 相比，模型为 prime 生成的更简单（更短、更高频）单词比例更小：prime 抵抗约简，非 prime 不抵抗约简。误差条为 prime 和匹配非 prime 上均值的标准误差。
07 情绪在模型中的形成机制
理解语义原子如何参与情绪计算，还需要看清情绪在模型内部是如何形成的。研究通过激活补丁和探针分析，描绘出一条很清晰的情绪形成路径。
情绪不是在模型最底层或最顶层形成，而是在中层形成。具体来说，情绪生成大约发生在第 10 层左右。这一层是语义结构开始组合的关键位置，也是模型开始把语义原子拼成更复杂概念的地方。
第 11 层是干预效果最明显的层。研究在这一层注入语义原子方向时，模型情绪输出变化最显著。这说明该层是情绪结构的关键节点：既能接收语义原子输入，也能影响后续情绪读出。
第 13 层则是情绪读出的峰值层。探针在这一层的解码效果最好，说明情绪方向在这一层最清晰。于是可以看到一条路径：情绪在第 10 层形成，在第 11 层可控，在第 13 层被读出。
更有意思的是，语义原子在后层逐渐被消耗。到了模型最后几层，大部分语义原子已无法被解码，只有 FEEL 和 SOMEONE 还残留。这说明模型在形成情绪时，会把语义原子组合成更高层的情绪结构，而原子本身在后层不再以原始形式存在。
从整体看，情绪就是语义原子的组合产物。模型内部的语义流动路径大致是：底层形成基本语义，中层组合成情绪结构，后层读出情绪方向。
08 语义原子作为解释变量的优势与意义
语义原子之所以是更好的解释变量，有几个关键原因。
避免循环定义。 情绪标签本身就是情绪，用它来解释情绪是自我循环；语义原子则是情绪的底层构件，解释链条可以真正终止。
避免不断膨胀的维度空间。 appraisal 维度常常越做越多、越做越复杂，像在不断添加新标签，而不是寻找底层原因。语义原子是固定的、跨语言的、不可再化约的。
具备跨语言普适性。 语义原子不是某种语言的特例，而是所有语言共享的语义基元。这让解释具有普适性，也让模型语义结构更容易进行跨语言分析。
具备因果操控能力。 语义原子方向能显著改变模型情绪输出，而且比 appraisal 更强、更精准。
具备行为忠实性。 模型在行为上把语义原子解释句当成情绪本身，说明语义原子不仅是内部结构，更是模型真正使用的语义构件。
与模型内部机制自然契合。 语义原子在中层组合成情绪结构、在后层被消耗，这与模型的语义流动路径完全一致。
未来的情绪电路研究、情绪安全研究、智能体情绪研究，都可以从语义原子出发，而不是从情绪标签或 appraisal 出发。它对智能体时代的影响非常深远：智能体需要理解情绪、表达情绪、控制情绪，而语义原子提供了一个跨语言、跨模型、跨任务的统一语义底层。在云栈社区上，围绕 LLM 可解释性、智能体情绪与 AI 安全的讨论也在持续展开。
参考资料：https://arxiv.org/pdf/2607.18691
发表于 12 小时前
|
查看: 10|
回复: 0
