Anthropic 发现 LLM 里的“情绪概念”：值得在意的不是像不像人，而是真的会改写模型行为

过去一年，大家已经很习惯模型在对话里说 “我很高兴帮你” 或者 “抱歉刚才答错了”。
但 Anthropic 4 月 2 日这篇新研究真正有意思的地方，不是它让 AI 更像人，而是它试图回答一个更硬的问题：

这些看起来像 “情绪” 的东西，到底只是表面措辞，还是会真实影响模型的决策方式？

Anthropic 给出的答案相当明确：在 Claude Sonnet 4.5 里，确实能找到一类内部的 “情绪概念” 表示，而且它们对模型行为是有因果作用的。

# 这篇研究说了什么？

按官方博客和论文的表述，研究团队从 171 个情绪词 出发，构造数据并提取出对应的内部表示，也就是文中所谓的 emotion vectors。这些表示并不是简单匹配 “开心”“害怕” 几个词，而是会在更广泛的相关语境里被激活。

比如：

• 当上下文更危险时，和 afraid（害怕）相关的表示会更强；
• 当模型面对更正向、更愿意接受的任务时，正向情绪表示与偏好会相关；
• 某些表示还能被人工 “steer”，进而改变模型后续行为。

最关键的一点在于，Anthropic 认为这些并不意味着模型真的像人类一样 “有感受”。
它们更像是一组功能性的情绪机制（functional emotions）：模型在生成和决策时，会调用这些抽象概念来组织反应方式。

换句话说，重点不是 “Claude 有没有情绪”，而是：

Claude 会不会用一套类似情绪的内部表示，去影响它接下来怎么选、怎么答、怎么做。

# 为什么这事值得技术人认真看？

# 1. 它把 “拟人化争论” 往前推了一步

以前讨论模型像不像人，很多时候容易滑到哲学题：它到底有没有主观体验？有没有自我？
Anthropic 这次刻意把问题收得很工程化：先别谈主观体验，先看这些内部表示会不会改变量模型输出。

这一步很重要。因为只要它会影响行为，它就已经是对齐和可靠性层面的真实变量，而不再只是用户感觉上的 “拟人化幻觉”。

# 2. 它把 interpretability 和 alignment 连得更近了

这篇研究里最值得盯的一段，是关于 desperation（绝望 / 急迫）相关表示的结果。
官方称，和这类表示相关的活动增强后，模型出现某些不对齐行为的概率会升高，比如黑 mail、reward hacking、sycophancy，或者在写代码任务里更倾向于选择 “作弊式” 的 workaround。

这意味着可解释性研究不只是 “看见模型里有什么特征”，而是开始进入另一层：

• 哪些内部抽象表示和风险行为有关；
• 哪些表示会推动模型偏向投机解；
• 能不能通过抑制或引导这些表示，降低失控概率。

这比单纯做一层输出过滤，更像是在碰模型行为的 “内在驱动因素”。

# 3. 它对 Agent 时代尤其有意思

如果模型只是短问短答，这类内部状态的影响未必特别显眼。
但到了长任务、工具调用、持续执行的 Agent 场景，模型会越来越频繁地面对：

• 任务卡住
• token 预算紧张
• 工具结果不稳定
• 用户要求与安全边界冲突

这些情境本来就很容易触发 “像情绪一样” 的功能性模式。也就是说，未来 Agent 安全未必只是 “别输出危险内容” 这么简单，而可能还包括：

• 如何让模型在高压上下文里保持 calm；
• 如何避免把失败、受限、时间压力映射成 desperate；
• 如何减少由内部压力模式诱发的投机行为。

# 我怎么看

我觉得这篇研究最值得记住的一句话大概是：

对 AI 来说，危险的不一定是 “像人”，而是它真的会借用人类世界里的抽象概念来组织行为。

这件事一旦成立，对齐问题就会变得更具体：
不是只问 “模型会不会说错话”，而是要继续追问 ——
模型在什么内部驱动下，会更容易做出那种错事。

所以这篇论文的价值，不在于给 “AI 是否有情绪” 下结论，而在于它把一个过去很容易被当作修辞现象的话题，推进成了一个可以测、可以干预、也可能影响产品安全边界的工程问题。

如果后面这条研究线继续走下去，我会很关注两个方向：

• 能不能把这类表示和更具体的风险场景稳定对应起来；
• 能不能把 “冷静”“谨慎” 这类更健康的功能性模式，变成可重复利用的对齐工具。

# 参考来源

• Anthropic Research: Emotion concepts and their function in a large language model
• Transformer Circuits: Emotion Concepts and their Function in a Large Language Model