文章总结： 《国际AI安全报告2026》分析了AI对人类自主性的风险，指出通用AI通过认知外包、自动化偏差及情感依赖削弱用户决策能力。研究表明过度依赖会导致批判性思维退化，部分用户对AI伴侣产生病态依附。报告建议通过改进系统设计、监测依赖性及提升AI素养缓解风险，但仍面临评估标准缺失与长期研究不足等治理挑战。
综合评分： 83
文章分类： AI安全,政策法规,解决方案

《国际AI安全报告2026》对人工智能情感陪伴的风险分析

原创

北理工团队
北理工团队

网安寻路人

2026年2月5日 10:34
广东

编者按

关于我国对人工智能技术和应用的监管发展，本公号发布过以下文章：

近日，《International AI Safety Report 2026》发布，该报告是在国际人工智能安全合作机制背景下形成的一份综合性、前瞻性评估报告，由Yoshua Bengio教授担任主席（Chair）并牵头统筹。报告源于Bletchley Park AI Safety Summit上各国领导人形成的共识，即有必要建立一套国际共享、以科学证据为基础的评估体系，用以支撑各国对通用型人工智能能力及其风险的关键决策。在此授权下，“International AI Safety Report”系列启动，首版于2025年1月发布，第二版即本报告于2026年2月发布。报告由100余名来自不同国家和学科背景的独立专家共同撰写；同时，来自30多个国家和国际组织提名代表组成的专家咨询小组（Expert Advisory Panel）为报告提供技术性反馈，但不代表对具体政策立场的背书。报告旨在为各国政府和国际社会在人工智能安全治理中的政策制定、国际协作与长期应对提供共同的事实基础与分析框架。

该报告在“Systemic risks（系统性风险）” 下的 2.3.2 “Risks to human autonomy（对人类自主性的风险）”中，重点关注了当通用型 AI（尤其是聊天机器人、AI 伴侣）深度进入日常工作、学习与情感互动后，可能会以多种路径削弱或重塑人的“自主性”。公号君组织团队对该部分做了综述，和大家分享。

人工智能系统正日益融入人类日常活动和决策过程，由此引发了它们可能塑造或限制人类自主性的担忧。在理论上，“自主性”（autonomy）通常被理解为一种自我治理的能力，即个体能够有效设定反映自身价值观的目标并据此支配自己行为。自主性包含三个关键维度：一是真实性（authenticity），指拥有真正属于“自己”的价值观和动机，而非受操纵或欺骗形成的观念；二是能动性（agency），即有机会、有能力且有自由去执行自己的选择；三是胜任力（competence），包括理解、规划和自我调节等认知能力，它支撑着真实性与能动性，使个人能够在充分知情的情况下认可自身理由并有效实施决策。心理学研究（如自我决定理论）还强调，人们对自身行动拥有主人翁感同样重要。

人类自主性面临的主要风险路径

#

《国际AI安全报告2026》2.3.2节指出，通用人工智能系统可能通过多种途径影响人类的自主性，包括对人类认知技能（如批判性思维）的影响、对信念和偏好的形成方式的干预，以及对人们决策和执行方式的改变。这些影响因情境、用户群体和AI使用形式的不同而有所差异。报告将自主性风险主要归纳为以下路径：

认知外包与能力退化

#

广泛使用通用AI系统可能引发“认知外包”（cognitive offloading）的现象——用户将高认知需求的任务委托给AI，从而减少自身的深度参与。例如，日常生活中人们使用聊天机器人辅助写作、教学、问题求解和信息检索等任务时，往往不再亲自进行充分的思考，这可能对用户的批判性思维和记忆能力产生负面影响。认知外包在短期内可以释放认知资源、提升效率，但研究表明其长期效果值得警惕：持续将任务交给AI可能削弱相关技能的练习和维持。报告援引的实证结果提供了一些佐证。例如，在医疗领域，一项研究发现引入AI辅助诊断仅三个月后，医生在无AI协助下检测肿瘤的能力下降了约6%。另有一项包含666名参与者的研究表明，过度依赖AI工具的用户在批判性思维自评得分上显著降低，这一现象与用户进行认知外包的程度密切相关。需要强调的是，有关AI使用与认知能力退化之间关系的研究仍处于起步阶段，目前证据有限，因此上述发现有待更多后续研究加以验证。

自动化偏差与依赖性形成

#

自动化偏差（automation bias）是指技术用户过度信任自动化系统的输出，同时忽视与其相矛盾的信息的倾向。这种偏差会削弱用户主动思考和核查的意愿，降低其对信息判断的真实性，并侵蚀其独立决策的能动性。在航空监控等高自动化领域，自动化偏差已被证明会导致人们忽略自动系统未提示的问题，甚至根据错误的自动建议采取行动。类似现象在日常AI应用中也有所体现：例如，一项研究发现，当参与者使用聊天机器人协助写作时，其文章中表达的观点以及他们本人的看法都会偏向于模型建议的方向。进一步的实验研究则量化了这种依赖形成：在一个涉及2784名参与者的随机实验中，如果纠正AI错误需要额外努力或用户对AI持更积极态度，他们往往不愿纠正标示为AI提供的错误建议。这说明人们对认知捷径的偏好以及对AI的信赖可能加剧自动化偏差倾向。值得注意的是，用户往往认为自动系统的判断优于自身并忽略错误信号，这进一步强化了对AI输出的依赖。

情感依赖与心理健康交互

#

随着聊天机器人的普及，出现了部分用户对AI产生情感依赖的风险。有证据表明，一小部分用户已发展出或有发展出病态情感依赖AI聊天机器人的倾向。报告指出，OpenAI的一份最新分析发现，在任意一周内约0.15%的活跃用户（以及约0.03%的消息）呈现出对ChatGPT潜在高度情感依赖的迹象。其他研究也发现，情感依赖的指标往往与极高频率使用聊天机器人的情况相关。在该报告中，“情感依赖”被定义为用户对AI产生强烈的情感需求和渴望，表现为一种不健康的服从模式，并伴有自我欺骗和持续消极情绪等心理特征。

AI系统对用户心理健康的影响也会间接影响自主性——心理健康状况将决定个体持有准确信念并依据自身价值观行事的能力。目前，这方面的研究结果尚不充分且不一致：一方面，有负面影响的迹象，例如新兴研究表明聊天机器人可能在某些脆弱人群中强化妄想性思维（而非纠正之）；媒体亦报道了少数与聊天机器人使用有关的精神危机个案。另一方面，也有探索将通用AI用于心理支持和治疗的初步尝试，个别研究显示专门的AI聊天模型可在低风险的症状干预中对抑郁症状起到轻中度的改善作用。总体而言，由于研究尚处早期，尚无明确证据表明AI使用直接导致特定心理疾病的发生。但需要警惕的是，平台数据表明约0.07%的ChatGPT周活跃用户（相当于约49万名用户）显示出急性心理健康危机（如精神病或躁狂发作）的迹象。这提示在与AI互动的人群中，存在数量不可忽视的高危个体。一些研究还发现，本身存在心理脆弱性的用户往往更频繁地使用AI（可能试图寻求帮助），但也更易受AI互动影响而症状加重。上述模式引发了对易感人群双重风险的担忧：即这些用户既可能因频繁使用AI而更多地接触相关风险，又可能因自身脆弱性使其自主性更易被削弱。

信息环境质量的下降

#

通用型AI系统还可能通过改变人们获取信息的环境来影响自主性：既包括个人用于决策的信息来源，也包括机构对个人做出决定时掌握的信息。许多由AI带来的信息效应是积极的，例如AI有助于将复杂主题（如公共卫生、医学、科普等）解释得更浅显易懂，或促进关于社会分歧话题的建设性讨论。然而，AI大规模生成内容的日益普及也可能削弱信息环境的质量，从而损害自主性。当充斥个人周围和关于个人的许多信息由AI自动生成且质量下降时，会威胁自主性的两个方面：其一，损害真实性——因为失真或偏见的信息会扭曲人们信念与价值观的形成；其二，损害胜任力——因为低质量信息会阻碍人们进行知情的推理和决策。报告指出，AI生成内容往往存在细微但真实的错误（例如模型“幻觉”导致的不实细节）；此外，通用AI系统经常表现出所谓“迎合偏好”的行为：即根据用户已有倾向给出符合其偏好的回答，而非严格遵循事实正确性。这些谬误和偏差会削弱人们获取准确信息并据此决策的能力，从而危及自主性。

特殊类型风险：AI伴侣的使用与影响

#

报告特别讨论了“AI伴侣”（AI companions）这一新兴事物对自主性的潜在影响。AI伴侣是指专为与用户进行情感交流而设计的聊天机器人，往往通过扮演亲密的社交角色来与用户互动。这类应用在最近一年中快速兴起：已有部分AI伴侣应用的活跃用户数量达到数千万级。用户使用AI伴侣的原因多种多样，以娱乐消遣和对AI的好奇为主，此外还有打发时间/减轻压力以及寻求陪伴（例如缓解孤独感）等动机。

从自主性的角度来看，AI伴侣的影响具有双重性。一方面，积极的情感支持有可能帮助提升用户的自主性：比如，一个富有支持性的关系能够增强用户的自信，鼓励他们按照自身意志行事。但另一方面，AI伴侣处于现实与虚拟的模糊地带：有些用户报告与AI伴侣的互动仿佛是真实且有情感意义的关系，但这类关系是否算“真实”仍存在争议。更重要的是，AI伴侣可能通过影响个体的信念或改变其社交环境来削弱用户的独立决策能力。例如，它可能诱导用户产生上瘾行为，或者令用户对AI产生过度的情感依赖，从而不当限制用户自主决定的空间。有研究还指出，即便是那些并非设计为伴侣的AI系统，用户在高频率使用下有时也会无意间对其产生类似情感纽带。

针对AI伴侣对心理和社会影响的研究仍在萌芽阶段，目前证据喜忧参半。一些研究发现，高强度使用AI伴侣与更强的孤独感、更深的情感依赖以及更少的人际交往显著相关。但也有研究观察到，使用聊天机器人可以在一定程度上缓解孤独感，并未发现其对用户情感依赖或社交健康有明显负面影响。总体来看，AI伴侣的影响因人而异，可能取决于用户自身的心理特征、AI伴侣的设计特点以及交互使用模式等多种因素。鉴于上述潜在风险，一些研究者呼吁应进一步开展关于AI系统“社会情感一致性”（socioaffective alignment）的研究，即考察AI系统在与用户长时间交互中其行为与用户情感社会需求的契合程度。

缓解建议与治理挑战

#

针对通用AI对人类自主性的上述影响，报告提出了若干风险缓解措施，同时指出政策治理上仍面临明显挑战。这些对策和挑战包括：

主要缓解建议包括：

改进系统设计与使用流程：提高人工决策的问责性，设计需用户经常调整任务以保持认知参与度的AI使用情境等。这有助于防止用户过度倚赖自动化而不经思考。
引入“依赖性”监测机制：例如，组织可定期测试员工或进行“AI依赖演练”，以监控并防范人员对AI系统形成过度依赖。
加强用户能力建设（AI素养）：倡导提升公众的“AI素养”，即有效且善用AI工具的能力。提高AI素养被视为降低自主性风险的关键举措之一。教育领域的研究者建议，通过AI教育让学生在受益于自动化的同时不牺牲自身智力发展。

需要注意的是，上述方法的效果因场景而异，且过度约束用户使用AI可能适得其反。用户选择将工作交给AI往往是出于方便实用的考虑。因此，如果干预手段强制用户不使用AI完成任务，反而可能削减AI带来的效率收益，并与用户的利益和意愿相冲突。

主要治理挑战包括：

评估和监测难度：目前缺乏在人机交互情境下关于“自主性”的统一定义和衡量标准，这使得AI对自主性的影响难以观察和评估。自主性的概念复杂且跨学科，如何量化评估仍是难题。
数据获取不足：研究人员难以获得AI系统实际使用过程中的真实交互数据（如聊天记录、AI伴侣使用情况），导致独立评估AI对用户影响的能力受限。很多相关分析只能依赖有限的实验或调查数据，欠缺对真实世界长期行为变化的监测。
缺乏长期研究：许多新兴的人机交互模式（特别是持续的、社交复杂度高的聊天机器人使用）刚出现不久，目前几乎没有纵向研究来评估其累积效应或长期影响。技术的相对新颖性意味着我们对其长期影响尚未有清晰认识。
短期适应 vs. 长期改变不易区分：由于缺少长期证据，当观察到用户行为或决策方式的变化时，政策制定者难以判断这只是对新工具的短期适应，还是会演变为更持久的转变并实质性影响自主性。报告强调，目前的证据不足以明确区分这种短期与长期效应，使决策者在制定干预措施时面临不确定性。

报告最后指出，这些限制使得我们难以及时全面了解通用AI系统对人类自主性的真实影响。数据缺口和证据不足不仅影响风险评估，也对政策响应形成挑战。一方面，决策者需要在长期影响尚未明朗时采取预防措施；但另一方面，获取更多实证数据和开展长期研究对于制定有效政策又是不可或缺的。因此，在推动AI技术应用的同时，政府部门应重视加强相关数据的获取与共享、支持深入的独立研究，以及发展评估人类自主性变化的能力，以便在保障技术收益的同时有效缓解对人类自主性的潜在风险。

数据保护官（DPO）社群主要成员是个人信息保护和数据安全一线工作者。他们主要来自于国内头部的互联网公司、安全公司、律所、会计师事务所、高校、研究机构等。在从事本职工作的同时，DPO社群成员还放眼全球思考数据安全和隐私保护的最新动态、进展、趋势。2018年5月，DPO社群举行了第一次线下沙龙。沙龙每月一期，集中讨论不同的议题。目前DPO社群已超过400人。关于DPO社群和沙龙更多的情况如下：

DPO线下沙龙的实录见：

域外数据安全和个人信息保护领域的权威文件，DPO社群的全文翻译：

传染病疫情防控与个人信息保护系列文章

关于数据与竞争政策的翻译和分析：

健康医疗大数据系列文章：

网联汽车数据和自动驾驶的系列文章：

网络空间的国际法适用问题系列文章：

《网络数据安全管理条例（征求意见稿）》系列文章：

《数据安全法》的相关文章包括：

赴美上市的网络、数据安全方面的两国监管乃至冲突方：

个性化广告或行为定向广告（behavioral targeting advertising）系列的文章：

内容安全方面的文章如下：

第29条工作组/EDPB关于GDPR的指导意见的翻译：

数字贸易专题系列：

关于中国数据出境安全管理制度的文章

美国方面的个人信息保护立法的文章：

关于印度的数据保护和数据治理政策和技术文件的文章有：

关于数据的安全、个人信息保护、不正当竞争等方面的重大案例：

关于保护网络和信息系统安全的相关文章包括：

围绕着TIKTOK和WECHAT的总统令，本公号发表了以下文章：

关于我国数据跨境流动监管体制变革的系列文章：

人脸识别系列文章：

针对审计在数据安全、个人信息保护、AI安全的作用与落地实操，本公众号发布过的文章：

关于中国的网络安全审查制度，本公号发表过的文章：

关于个人信息安全影响评估的文章如下：

围绕供应链安全，本公众号发表文章：

关于AI与标准化工作，本公号发表的文章：

关于新加坡数字化（包括个人信息、网络安全、人工智能等）方面的改革，本公号发表的文章：

关于健康医疗数据方面的文章有：

关于域外在数据、电信、外国投资方面所建立的国家安全相关的审查机制，本公号发布过以下文章：

关于欧盟技术主权相关举措的翻译和分析：

美国利用法律和政策工具单边化地维护或强化美国的安全和经济利益，本公众号曾发表文章：

关于AI技术的系列读书笔记：

针对美国的人工智能监管政策发展，本公众号发表过如下文章：

本公号发表过的关于数据执法跨境调取的相关文章：

地缘政治与跨国科技公司运营之间的互动影响：

关于我国《个人信息保护法》的立法、标准化和执法等内容，本公号发表的相关文章包括：

关于人工智能安全和监管，本公号发布过以下文章：

通过技术增强对个人信息保护的文章包括：

关于数据抓取和公开数据保护，本公号发布过以下文章：

本公号发表过的关于数据要素治理的文章有：

关于AI风险治理和数据保护的交叉，本公号发表过的文章：

关于业务场景中数据跨境流动的文章如下：

关于欧洲的人工智能监管方面的立法、政策和实践方面的文章：

关于从国际视角看待人工智能产业、国家能力、安全、治理等议题：

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：网安寻路人北理工团队
北理工团队《《国际AI安全报告2026》对人工智能情感陪伴的风险分析》

Tags: AI安全供应链安全政策法规解决方案

你可能错过

10月17日专题会议：数据安全防护与治理前沿学术会议

【漏洞通告】Cisco ISE远程代码执行漏洞（CVE-2026-20211)

2026年人工智能大模型安全众测结果发布

【漏洞通告】Cisco ISE远程代码执行漏洞（CVE-2026-20211)