文章总结： 本文探讨医疗智能体应用与治理，指出其面临数据安全、算法安全、行为失控及责任界定四大风险，并提出制度设计、执行适配、持续保障三层应对策略，强调人机协同与分级准入，借鉴国际经验，推动医疗智能体安全有序发展。
综合评分： 85
文章分类： 政策法规,数据安全,应用安全
评论 | 重视医疗智能体的应用与治理
孙茜
孙茜
中国信息安全
2026年9月21日 19:03
北京
在小说阅读器读本章
去阅读
在公众号小说中沉浸阅读
今年5月，国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》，这是国内首部聚焦智能体的系统性政策文件。文件将医疗健康列入民生福祉重点方向，明确了提升医学影像分析、疾病诊断推理、定制化诊疗方案生成等医疗辅助智能体性能，探索药品管理、手术排程、病历管理、预问诊、报告解析等智能体类型。此前，2025年国家卫生健康委等5部门已联合印发《关于促进和规范“人工智能+医疗卫生”应用发展的实施意见》，围绕基层应用、临床诊疗、患者服务等8个方向、24项重点应用作出部署，提出到2030年二级以上医院普遍开展医学影像智能辅助诊断、临床诊疗智能辅助决策等人工智能技术应用。
2025年是业界公认的医疗智能体元年，行业实现了从“言必谈大模型”到“言必谈智能体”的转向，不断重塑医疗服务形态。国内医疗大模型迅猛发展，目前已超过300个。技术深度嵌入各级医疗机构——科大讯飞智医助理覆盖全国绝大多数省份的基层医疗机构，瑞金医院病理大模型辅助诊断正逐步下沉至基层；中医智能体也接入了医院信息系统，贯通智能脉诊、舌苔面部智能看诊、辅助辨证及开方全流程。医疗健康事关人民生命安全，容不得半点闪失。如何在拥抱创新的同时守住安全与隐私底线，是当务之急。
与单点式医疗技术不同，医疗智能体具备自主规划、工具调用与反思迭代等能力，让技术应用面临更多系统性和传导性的风险挑战。
一是数据安全风险。医疗数据高度敏感，采集、存储、传输各环节都可能泄露。智能体访问范围过大，可能会获取非授权数据；多智能体之间还可能通过交叉比对，间接推断敏感信息。值得注意的是，临床医护长期背负繁重的数据负担，日常需在多个系统间重复录入同一套诊疗信息，频繁的数据流转进一步加大信息防护难度，给数据安全管控增加重重阻碍。
二是算法安全风险。训练数据偏差可能造成对特定人群的系统性误诊、漏诊；而“黑箱特性”则让医生难以信任AI。有医生坦言，虽然在用AI控费系统，却始终弄不懂它背后的逻辑。基层医疗的风险可能更甚。AI影像若无资深医生把关，年轻医师只遵从AI结果，极易酿成误诊和漏诊。此外，公平性同样面临考验。算法基准对兜底医疗与特殊群体存在系统性不利。
三是行为失控风险。智能体可能越权开具处方或检查，为商业利益诱导非必要的消费，甚至在资源分配中偏离医学伦理。算法对诊疗的牵引已有苗头。为控费，算法的提示会让本应住院两周的患者一周出院，或把进口药换成国产替代药。当机器替代医患进行沟通，人文关怀的缺失尤为致命。
四是责任界定风险。智能体辅助决策一旦出现差错，责任究竟归于开发者、使用者、医疗机构，还是算法本身？现行法律尚存空白，既有的医疗纠纷机制也难以适配人机协同的新模式。责任在系统、机构与医生之间的错置，是治理必须回应的痛点。
2026年，由40余家国内权威医疗卫生与科学研究机构联合制定《医疗机构人工智能应用与治理专家共识（2026版）》，从准入评估、临床应用、患者权益保障、数据治理、风险管理、素养提升等维度，搭建起医疗AI治理的“四梁八柱”。在准入评估上，注重分类管理和分级准入：低风险应用（如智能导诊）进行简化备案，中风险应用（如影像后处理）纳入医疗器械管理，高风险应用（如辅助诊疗）则执行最严格的标准。该共识提出，由临床、医工、信息、法务和伦理专家组成联合评估组，对高风险产品实行“一票否决制”；强调以6个月真实世界研究检验算法在本地的表现，并引入竞争性交叉验证，拒绝排他协议，防止对单一算法模型的锁定。在临床应用上，坚持人机协同、以人为主的准则，是底线共识。AI输出不得直接作为最终诊断方案：高风险操作禁止无人监控、独立运行；高风险预警需逐一人工复核，全程留痕。此外，共识还规划出拟人化服务红线，交互界面需醒目标注AI生成内容，并为患者保留一键直达的人工通道。
治理之难绝非我国独有，国际社会正在同题求解。2025年9月，美国健康AI联盟（CHAI）与美国联合委员会联合发布《医疗AI负责任使用指南》，2026年5月进一步推出8份配套治理手册，来自100余家机构的150多位健康AI专家参与制定，涵盖组织AI政策、组织架构、组织资源及组织过程（含负责任AI生命周期管理、风险与影响评估、负责任数据管理、第三方管理、教育培训与反馈5个子手册），为各类医疗机构提供可操作、可扩展的AI治理框架。在医生使用AI指导方面，强调“人在回路”的原则，即AI应用于辅助而非替代临床诊断。医疗机构需为临床医生提供针对每项AI工具的角色化培训，使其充分理解适用范围与局限性，防止因过度依赖AI导致职业能力退化。医生应参与AI治理结构。使用AI影响诊疗决策时，医生应向患者进行充分的知情告知。
世界卫生组织2026年4月发布《人工智能重塑卫生系统：欧盟准备情况》，指出欧盟27国中74%的国家已使用AI辅助诊断系统，63%采用聊天机器人，仅11%制定卫生专项AI战略，治理仍滞后于应用。2026年6月，欧盟《人工智能综合法案》获欧盟理事会的最终批准，针对医疗AI的硬性要求未被削减。例如在欧盟上市的医疗AI器械需满足医疗器械法规和人工智能综合法案的双重审查，但是该法案将高风险AI的合规时间延长至2028年8月。
日本则采取以软法为中心的灵活方式。2025年5月日本国会通过首部AI基本法《人工智能相关技术研究开发及应用推进法》。基于该法，日本内阁于2025年12月通过《人工智能基本计划》，提出建设世界上最便于开发和应用AI的国家。厚生劳动省在2026年度诊疗收费修订方案中指出，医疗AI进入医保支付与规模化实施阶段，日本将AI定位为对医院整体的系统性重塑。
鉴于我国医疗情境丰富，医疗智能体正逐步向三甲医院和基层部署，应对策略需从制度设计、执行适配和持续保障三个层面协同推进。
制度设计层面，建立多方协作的标准制定机制，由政府、认证机构、行业联盟和医疗机构联合出台准入与治理标准，构建从国家政策到专家共识再到医院精细化管理在内的多层次治理体系。核心原则是：能力等级不等于放权等级，智能体再强也不能替代医生的最终判断和责任。
执行适配层面，实施风险分级与弹性适配机制。三甲头部医院与基层诊所资源条件不同，标准不能“一刀切”。高风险应用严格准入，低风险应用简化管理。入院环节坚守“数据不出院、智能体进医院”的底线，通过统一互联协议打破数据壁垒，防止数据外泄；使用环节坚持人机协同，AI输出不得直接作为最终方案，高风险操作必须人工复核。
持续保障层面，强化医疗智能体部署后的持续监测与前瞻性教育。定期评估算法在本地的真实表现，防止临床人员因过度依赖智能体而导致技能退化。坚持发展和安全并重、创新和治理相结合，统筹多方协同共治，让医疗智能体跑得快且行得稳，真正成为守护人民生命健康的可靠伙伴。
（来源：学习时报）
免责声明：
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。
任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。
本文转载自：中国信息安全 孙茜
孙茜《评论 | 重视医疗智能体的应用与治理》