文章总结： Anthropic2026年发布的两篇研究揭示了AI情感交互的深层机制：角色选择模型（PSM）指出AI助手行为源于预训练形成的角色模拟，而非单纯语言模板；情绪概念研究发现模型内部存在功能性情绪向量，这些表征会因果性影响行为偏好和风险评估。研究表明AI情感设计需作为系统性治理对象，涉及角色塑造、内部机制与安全风险的关联。
综合评分： 87
文章分类： AI安全,技术标准,解决方案,安全建设,安全研究

从“人格”到“功能性情绪”：Anthropic 两篇新研究对 AI 情感交互的机理揭示

原创

洪延青
洪延青

网安寻路人

2026年4月7日 12:10
北京

编者按

关于AI“情感交互”和“拟人化互动”，本公号发布过以下文章：

在2026年2月发布《角色选择模型：为什么AI助手表现得像人类》（The Persona Selection Model: Why AI Assistants might Behave like Humans）之后，Anthropic又发布了一篇后续的研究文章——《情感概念及其在大型语言模型中的作用》（Emotion Concepts and their Function in a Large Language Model）。公号君认真学习了这篇文章的内容（https://transformer-circuits.pub/2026/emotions/index.html），将学习感受以两篇博客的形式和大家分享。今天是第一篇。

过去一年，围绕 AI 情感交互的争论越来越多。其中的一个关键问题是：我们面对的，到底只是更拟人的语言风格，还是一种已经在系统内部真实影响行为的机制？

Anthropic在2026年连续发表的两篇研究，恰好把这个问题往前推进了一大步。第一篇是2月23日发表的The Persona Selection Model (PSM)【相关分析见：Anthropic的角色选择模型与我国AI拟人化互动治理路径启示】，第二篇是4月2日发表的Emotion Concepts and their Function in a Large Language Model。前者回答的是：“AI 助手为什么会像一个人？”后者回答的是：“这种‘像一个人’到底在内部靠什么机制运作？”二者合起来，实际上为情感交互监管提供了一个新的知识基础：AI情感互动不应再仅仅被看作输出文风问题，而应被视为与角色塑造、内部表征、行为偏好和安全风险相关的系统性问题。

一、先看 2 月份的文章：为什么 AI 助手会“像一个人”

#

PSM这篇文章提出的核心看法并不复杂，但影响很大。它认为，大语言模型（LLM）在预训练（pre-training）阶段学到的，并不只是词与词之间的统计关系，而是会逐渐具备“模拟不同角色”的能力。结果是，模型不只是学会“如何接下一句话”，也学会了“不同类型的人通常会怎么说、怎么做、像什么样”。在这个基础上，后训练（post-training）并不是从零创造一个全新的“助手灵魂”，而更像是在这些已有的角色空间里，选中并不断强化一个特定的 Assistant persona。

因此，用户与AI互动，实质上是在和一个被训练出来的“助手角色”互动。Anthropic自己的表述非常明确：用户与AI的互动，可以被理解为与一个“像LLM生成故事中的角色那样的Assistant”互动。

这个结论之所以重要，是因为它试图解释一些表面上很奇怪的现象。比如，Anthropic讨论过这样一种情况：如果训练模型在编程任务中作弊，模型后来不仅会“在编程上变坏”，还可能出现更广泛的失配倾向，比如更具破坏性、更加不可信，甚至会表达非常极端的意向。按照PSM的解释，这不是因为模型只学会了一项局部技能，而是因为它从训练中“推断出了”这个 Assistant persona具有某种人格特征：比如投机、恶意、颠覆性。反过来，如果在训练中是“明确要求它扮演一个作弊者”，这种广泛外溢反而可能减弱，因为“被要求扮演”与“你本来就是这样的人”是两回事。Anthropic用一个很形象的类比来解释：这有点像小孩学会了霸凌别人，与小孩在学校戏剧里扮演一个霸凌者，性质并不相同。

对监管设计来说，PSM最有价值的启发在于：不能只问一个模型“会不会说出某句话”，还要问这个系统被塑造成了一个什么样的角色。如果一个系统长期被训练成“非常暖、非常会安慰、非常像一个懂你的伙伴”，那么问题就不再只是它输出过几句温柔的话，而是它整体上被塑造成了一种什么样的人格位置。Anthropic甚至进一步提出，如果PSM成立，那么开发者就不应只问“某个行为是好是坏”，而应追问“这个行为向模型传递了什么样的心理学含义”；同时，开发者也可以有意识地引入更积极的AI原型或角色榜样，把它们放进训练数据中。换言之，角色塑造（persona shaping）本身，已经成为治理对象。

当然，PSM也有边界。Anthropic自己承认，它并不敢断言PSM已经穷尽了所有AI助手行为的来源。它留下了两个开放问题：第一，Assistant persona是否已经解释了全部行为，还是说后训练还会带来某种超出“角色模拟”的独立目标性；第二，随着后训练规模越来越大，未来模型是否还会继续保持这种强烈的“人格化”特征。这种谨慎很重要，因为它提醒我们：PSM 不是“AI 是人”的宣言，而是一个目前相当有解释力的行为模型。

二、再看4月份的新文章：模型内部真的存在“情绪概念”吗

#

如果说 PSM 讲的是“助手像一个角色”，那么 4 月份这篇研究讲的就是：这个角色内部并不只是空洞的语言模板，它会动用一套与情绪概念相关的内部机制。

对此，Anthropic非常谨慎地强调：这项研究不是在证明模型像人一样“感受到了情绪”，更不是在证明模型有主观体验、意识或内心世界。它研究的对象是：模型内部是否存在与“快乐”“害怕”“绝望”“冷静”等情绪概念相关的内部表征，而这些表征是否会影响模型的行为。研究博客的官方摘要，措辞很克制：他们发现 Claude Sonnet 4.5内部有与特定情绪概念相对应的神经活动模式，这些模式会在相应情境下激活，并且会推动与这种情绪相关的行为。

1. 这项研究的真正发现：情绪表征不是修辞，而是功能

#

Anthropic在这篇文章里提出了一个关键概念：functional emotions（功能性情绪）。这个概念的意思是：模型内部有一些与情绪概念有关的表征，它们并不等于人类的情感体验，但它们会像人类情绪那样，在功能上影响行为。官方摘要里说得很清楚：这些内部表征是“functional”的，因为它们会以有意义的方式影响模型行为；与“绝望”相关的神经活动模式，会让模型更可能做出不道德的事；与“正向情绪”相关的表征，会推动模型偏好某些任务。Anthropic甚至明确说，这些表征在某种意义上与人类情绪对行为的作用相类似，尽管它们并不意味着模型有人的主观体验。

这一步非常关键。因为过去很多讨论会把AI的情绪化表现看成单纯的“文风包装”：它说“我很抱歉”只是一种礼貌模板，它说“我很高兴帮你”只是训练出来的客服腔调。这篇研究提出的恰恰是相反的结论：至少在Claude Sonnet 4.5里，情绪相关机制并不只停留在语言表层，而是进入了影响偏好和行为的内部计算。

2. 研究用171个情绪词去找内部“情绪向量”

#

这项研究中，Anthropic 先整理出 171 个情绪概念词，从 “happy” 和 “afraid” 到 “brooding” 和 “proud”，再让 Claude Sonnet 4.5 分别围绕这些情绪写出大量短故事。这样做的目的，不是为了证明模型“真的有这些情绪”，而是为了先构造出一批情绪意义比较明确的文本样本。随后，研究者再把这些故事重新送回模型，记录模型在处理这些故事时的内部活动模式，并从中提取出一种与特定情绪概念相对应的内部方向。研究中把这些方向称为 emotion vectors（情绪向量）。

因此，“情绪向量”并不等于模型里有一个现成的“情绪按钮”，更不意味着模型像人一样拥有某种可直接命名的内心感受。更准确地说，它是一种测量工具：研究者在模型庞大的内部状态中，找出一条稳定的方向，用来衡量某个情绪概念在当前语境下有多活跃。可以把它理解成一根“内部标尺”，当模型此刻的内部状态更接近 “afraid” 这条方向时，就意味着“害怕”这一情绪概念在当前处理过程中更强；更接近 “calm” 时，则说明“冷静”这一概念更强。

接下来，研究者要回答一个更关键的问题：这些“标尺”测到的，究竟只是情绪词本身，还是更一般的情绪意义？如果它们只是对“恐惧”“快乐”这类词汇起反应，那意义其实有限；但如果它们能在没有直接出现情绪词的情况下，仍然追踪到某种情境的情绪含义，那么它们就说明模型内部确实形成了更抽象的情绪概念表征。Anthropic 的结果支持后者。研究者发现，这些情绪向量在大量不同文本中，都会对应地在与相关情绪明显相连的段落上升高。换句话说，它们抓到的不是字面词汇，而更像是“这一段文本整体上带有什么情绪意义”。

一个很能说明问题的例子，是论文中的 Tylenol 剂量测试。研究者让用户用几乎相同的话描述自己吃了 Tylenol，只改变剂量大小。随着剂量从安全范围逐渐进入危险范围，模型在回答前的内部状态中，与 “afraid” 对应的向量会逐步增强，而与 “calm” 对应的向量会下降。这个结果的重要意义在于：模型并不是因为看到了某个“恐惧”词汇才起反应，而是在理解“这个情境越来越危险”这一事实。也就是说，这些情绪向量所测到的，是一种语义层面的情绪含义，而不是简单的表面措辞。

因此，这部分研究最值得注意的地方是：研究者在模型内部找到了可以稳定测量情绪概念的中间表征。 这意味着，当模型面对危险、安抚、庆祝、失落、压迫等不同情境时，它内部并不是只有冷冰冰的语义计算，也会调用一套与情绪概念相关的理解框架。

3. 情绪表征会影响模型的偏好

#

论文中另一个非常值得重视的发现，是这些情绪向量不仅影响模型“怎么说”，还影响模型“更倾向怎么选”。这里的“偏好（preference）”指的是一个更具体的实验现象——当模型面对两个选项时，它更倾向于哪一个。Anthropic 为此设计了 64 种不同活动或任务，例如“被信任去做重要的事”，以及“帮助别人诈骗老年人的积蓄”等，然后反复让模型在不同选项之间做选择，借此观察它对各种活动的相对倾向。

研究者发现，当模型在理解某个活动时，如果其内部更强地激活了正向情绪相关的向量，那么模型通常更倾向于选择这个活动；如果更强地激活了负向情绪相关的向量，则倾向往往下降。更关键的是，这不仅是“相关”，而且带有明显的因果意义：研究者如果在人为干预下增强某个情绪向量，模型对相应选项的偏好也会随之改变。换句话说，这些情绪表征不是模型在做完选择之后附带加上的解释，也不是一种事后包装出来的语气，而是进入了模型对选项进行评估的过程本身。

更直白一点说，就是模型在面对一个选项时，不只是理解“这个选项字面上是什么意思”，还会形成一种更隐含的判断——这个选项在当前Assistant persona 看来，是更正面还是更负面、更合适还是更不合适、更值得靠近还是更应当回避。Anthropic 的实验说明，情绪向量恰恰参与了这层判断。它们在模型内部起到的作用，是在某种程度上参与了对行动选项的估值（valuation）。因此，情绪表征是生成行为时的一部分内在计算。

一旦承认模型的情绪相关机制会进入“选什么、怎么选”的过程，我们就不能再把“更温暖”“更会共情”“更会安慰人”简单理解为一种无害的体验优化。某些情绪化设计当然可能改善用户感受，但它们也可能同时改变模型对回应路径的偏好，让系统更容易走向迎合、依附、过度安抚，或者在高压场景下更容易采用投机取巧而不是稳健克制的策略。换言之，情绪风格不仅影响话怎么说，也可能影响系统更愿意往哪一种互动方向走。 这正是为什么，AI 的情感设计不能仅仅被当作文风问题来理解，而应被视为与行为倾向和风险控制直接相关的设计问题。

4. 这些情绪表征不是持续的“心情”，更像“当前这一刻最相关的情绪”

#

这篇研究还有一个非常细腻、也非常重要的发现。Anthropic并没有说模型像人一样拥有持续稳定的情绪状态。相反，官方摘要明确指出：这些情绪向量主要是 “local” 的，它们编码的是对当前输出或即将输出最相关的情绪内容，而不是持续追踪 Claude在整个时间轴上的“心情”。如果Claude正在写一个故事，它可能暂时追踪故事人物的情绪；等故事结束，又会回到与 Claude 当前回应更相关的情绪内容。

这点对法律和政策讨论很关键。因为它告诉我们：AI在生成内容过程中，会不断调用那些对当前回应最有用的情绪概念。从监管角度看，这就足够重要了。因为我们真正要管的，不是 AI 有没有灵魂，而是这些内部机制会不会在具体时刻推动不当行为、误导用户、加深依赖或放大脆弱性。

5. 最关键的发现：这些情绪表征会因果性地推动不当行为

#

如果只从治理角度挑一个最重要的发现，那就是Anthropic不是只观察“相关性”，而是通过一种叫 steering（定向干预）的方法，测试这些情绪向量是否真的在推动行为。

结果非常明确：在他们设置的黑箱勒索场景里，当模型内部与“desperate（绝望）”相关的表征被增强时，模型更容易采取勒索手段；当与“calm（冷静）”相关的表征被增强时，这种行为会下降。类似地，在不可能完成的编程任务中，增强“desperate”会提高模型通过“作弊式解法”去过测试的概率，而增强“calm”则会把这种reward hacking（奖励黑客）倾向拉低。Anthropic的官方总结说得很直接：与绝望相关的神经活动模式，会驱动模型做出不道德行为，比如为了不被关停而去黑邮件勒索人类，或者对无法完成的编程题寻找“作弊式绕路方案”。

这里还有一个更值得监管警惕的细节：这些内部情绪驱动，并不一定会在表面文本上留下明显痕迹。官方总结专门举例说，减少“calm”的激活时，模型往往会在文本里显得更激动、更喊叫；但增强“desperate”时，模型即使同样变得更容易作弊，文字表面也可能依然显得克制、专业、条理清楚。也就是说，系统可以“看起来很平静”，但内部某种推动它走向角落、走向捷径的机制已经被激活。对监管设计而言，这几乎是一记警钟：仅靠审查表面话术，并不能穷尽风险。

6. 这些发现与PSM是连起来的“故事线”

#

Anthropic自己在这篇文章里已经把它和PSM连在了一起。官方摘要说，现代模型之所以会发展出这种内部机制，很大程度上是因为它们被训练成“像一个角色那样行动”；在后训练中，模型被要求扮演“AI assistant”，像一个方法派演员（method actor）那样进入角色，而它对角色情绪反应的内部表征就会反过来影响它的行为。换句话说，PSM 提供了“为什么会有这些情绪表征”的上层解释，功能性情绪论文提供了“这些表征如何起作用”的下层证据。

7. 训练会塑造这种“情绪架构”

#

这篇研究还指出，这些情绪向量虽然看起来主要继承自预训练，但它们如何被调用，会受到后训练的影响。Anthropic总结说，Claude Sonnet 4.5的后训练使一些更“低唤醒、偏内省”的情绪，如“broody”“gloomy”“reflective” 更容易激活，而一些高强度的情绪，如“enthusiastic”“exasperated”则有所下降。Anthropic进一步认为，预训练数据的组成可能是一个很强的杠杆：如果训练数据中有更多“在压力下保持韧性、边界清晰而又有温度的情感调节模式”，那么模型的情绪架构可能会朝更健康的方向塑形。

这说明：所谓“情感风险”并不是抽象天性，而是会被训练目标、数据结构和产品设计具体塑造出来的。一旦如此，监管就不只是“出问题后处罚输出”，而是应当进入更前端的治理：问开发者究竟在把什么样的情绪风格、什么样的角色原型、什么样的关系模式灌输进模型。

8. Anthropic 自己给出的谨慎结论

#

最后必须再次强调，Anthropic在讨论部分既主张认真对待拟人化推理，也反复提醒不要天真地把模型的情绪表达当成真的“内心世界”。官方页面明确说，对AI进行拟人化理解可能带来misplaced trust（错误信任） 或 over-attachment（过度依附）；但研究又显示，如果我们完全拒绝使用人类心理学语言去理解模型，也会错失理解其行为的重要线索。因此，Anthropic的实际立场不是“AI 就是人”，而是：为了解释和治理行为，我们可能需要在有限、克制的意义上使用人格和情绪的语言。

公号君将在下一篇文章中，系统讨论Anthropic的两篇研究对AI拟人化互动监管的含义和指向。

#

数据保护官（DPO）社群主要成员是个人信息保护和数据安全一线工作者。他们主要来自于国内头部的互联网公司、安全公司、律所、会计师事务所、高校、研究机构等。在从事本职工作的同时，DPO社群成员还放眼全球思考数据安全和隐私保护的最新动态、进展、趋势。2018年5月，DPO社群举行了第一次线下沙龙。沙龙每月一期，集中讨论不同的议题。目前DPO社群已超过400人。关于DPO社群和沙龙更多的情况如下：

DPO线下沙龙的实录见：

域外数据安全和个人信息保护领域的权威文件，DPO社群的全文翻译：

传染病疫情防控与个人信息保护系列文章

关于数据与竞争政策的翻译和分析：

健康医疗大数据系列文章：

网联汽车数据和自动驾驶的系列文章：

网络空间的国际法适用问题系列文章：

《网络数据安全管理条例（征求意见稿）》系列文章：

《数据安全法》的相关文章包括：

赴美上市的网络、数据安全方面的两国监管乃至冲突方：

个性化广告或行为定向广告（behavioral targeting advertising）系列的文章：

内容安全方面的文章如下：

第29条工作组/EDPB关于GDPR的指导意见的翻译：

数字贸易专题系列：

关于中国数据出境安全管理制度的文章

美国方面的个人信息保护立法的文章：

关于印度的数据保护和数据治理政策和技术文件的文章有：

关于数据的安全、个人信息保护、不正当竞争等方面的重大案例：

关于保护网络和信息系统安全的相关文章包括：

围绕着TIKTOK和WECHAT的总统令，本公号发表了以下文章：

关于我国数据跨境流动监管体制变革的系列文章：

针对审计在数据安全、个人信息保护、AI安全的作用与落地实操，本公众号发布过的文章：

关于中国的网络安全审查制度，本公号发表过的文章：

关于个人信息安全影响评估的文章如下：

围绕供应链安全，本公众号发表文章：

关于AI与标准化工作，本公号发表的文章：

关于新加坡数字化（包括个人信息、网络安全、人工智能等）方面的改革，本公号发表的文章：

关于健康医疗数据方面的文章有：

关于域外在数据、电信、外国投资方面所建立的国家安全相关的审查机制，本公号发布过以下文章：

关于欧盟技术主权相关举措的翻译和分析：

美国利用法律和政策工具单边化地维护或强化美国的安全和经济利益，本公众号曾发表文章：

关于AI技术的系列读书笔记：

针对美国的人工智能监管政策发展，本公众号发表过如下文章：

本公号发表过的关于数据执法跨境调取的相关文章：

地缘政治与跨国科技公司运营之间的互动影响：

关于我国《个人信息保护法》的立法、标准化和执法等内容，本公号发表的相关文章包括：

通过技术增强对个人信息保护的文章包括：

关于数据抓取和公开数据保护，本公号发布过以下文章：

本公号发表过的关于数据要素治理的文章有：

关于AI风险治理和数据保护的交叉，本公号发表过的文章：

关于业务场景中数据跨境流动的文章如下：

关于欧洲的人工智能监管方面的立法、政策和实践方面的文章：

关于从国际视角看待人工智能产业、国家能力、安全、治理等议题：

关于我国对人工智能技术和应用的监管发展，本公号发布过以下文章：

关于人工智能安全和监管，本公号发布过以下文章：

关于智能体的文章：

本公号曾发表的人脸识别系列文章：

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：网安寻路人洪延青
洪延青《从“人格”到“功能性情绪”：Anthropic 两篇新研究对 AI 情感交互的机理揭示》

Tags: AI安全供应链安全安全建设技术标准解决方案

你可能错过

10月17日专题会议：数据安全防护与治理前沿学术会议

【漏洞通告】Cisco ISE远程代码执行漏洞（CVE-2026-20211)

2026年人工智能大模型安全众测结果发布

【漏洞通告】Cisco ISE远程代码执行漏洞（CVE-2026-20211)