文章总结： 本文解读《人工智能安全治理框架3.0》，针对智能体、具身智能等新应用形态系统梳理风险，提出具体技术应对措施，首次构建沙箱监管制度，实现全生命周期闭环管理，标志我国AI安全治理从跟随技术迭代向前瞻布局风险的战略转变，为全球AI治理贡献中国方案。
综合评分： 85
文章分类： AI安全,政策法规,解决方案
专家解读 | 王江：顺应人工智能技术和应用发展趋势 构建人工智能安全治理新范式
王江
王江
中国信息安全
2026年9月21日 19:03
北京
在小说阅读器读本章
去阅读
在公众号小说中沉浸阅读
文 | 中国网络空间研究院院长、党委书记 王江
习近平总书记在2026年世界人工智能大会上提出“当机器开始思考，人类如何与之相处？当算法参与决策，安全如何保障？当技术挑战伦理，治理如何跟上？当鸿沟不断拉大，普惠如何实现？”——四个关乎人类文明走向的根本命题。聚焦四个“时代之问”，在国家互联网信息办公室指导下，全国网络安全标准化技术委员会组织编写《人工智能安全治理框架3.0》（以下简称《框架3.0》），以更具前瞻性、系统性和包容性的治理思路，针对近一年来人工智能技术新突破、风险新形态、治理新共识作出全面优化升级，进一步提升了治理框架的指导性、可操作性、体系性。
一是风险认知更加前沿化体系化，符合技术加速演进新趋势。《框架3.0》针对智能体、具身智能等新应用形态，系统梳理身份权限滥用、物理执行安全、群体协同失控等特有风险；对最新涌现的自主化网络攻击、生成式引擎优化（GEO）投毒、智能体社交平台乱象等风险作出清晰界定；把人机交互异化与依赖、文化多样性破坏、算力能耗过高、脱离人类控制等新型衍生风险纳入治理范畴，形成维度更加丰富的风险认知体系。
二是技术应对措施更具针对性落地性，精准化解应用安全风险。《框架3.0》针对智能体权限滥用、具身智能物理安全风险等，明确智能体唯一身份标识、关键节点设置人工审批、具身智能紧急关停机制等具体技术举措。针对大模型自主突破沙箱、入侵外部系统事件，提出强化模型内在安全约束、设置安全护栏、建立服务降级机制等防御措施，实现对新型风险的精准防控与应对。
三是综合治理更加体系完备，兼顾鼓励创新与风险防范。《框架3.0》首次构建沙箱监管制度，以动态测试、弹性准入、责任豁免等创新机制，为技术创新预留容错试错空间；同时将人工智能治理环节由研发、部署、运行、使用延伸至停用下线，实现全生命周期闭环管理，并针对智能体专门出台风险管理框架；新增合成数据评估、生成内容全链条溯源等治理手段，提升对新型风险的处置应对能力。
《框架3.0》的发布，标志着我国人工智能安全治理实现从“跟随技术迭代”向“前瞻布局风险”的战略转变，既以包容审慎的监管方式为技术产业创新留足空间，又针对技术失控、高危知识扩散等全球性风险守牢底线。《框架3.0》体现了中国立足自身实践、胸怀人类未来，对人工智能“发展什么、如何发展、如何治理”的系统回答，也为推动构建公正合理的全球人工智能治理体系贡献中国智慧、中国方案。
中国网络空间研究院将充分发挥智库单位“思想库、智囊团、连接器”的作用，做好政策与产业、技术与治理之间的沟通桥梁，广泛凝聚高校、科研院所、企业及社会各界智慧，跟踪《框架3.0》落地实践与反馈，持续更新迭代治理措施，助力人工智能安全、可靠、可控，让人工智能这匹千里马既跑得快又跑得稳。
（来源：中国网信杂志）
免责声明：
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。
任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。
本文转载自：中国信息安全 王江
王江《专家解读 | 王江：顺应人工智能技术和应用发展趋势 构建人工智能安全治理新范式》