文章总结： 启明星辰分析2025年AI安全发展态势，指出《网络安全法》修订确立AI安全法律框架，攻防双方利用AI技术推动智能化对抗升级。展望2026年，AI安全将呈现三大趋势：AI赋能安全与AI应用安全并行发展，安全智能体成为核心能力；AI安全治理体系从原则转向实施细则，威胁建模成为基础；智能体集群化催生协同安全新需求，需关注MCP、A2A等协议安全。
综合评分： 78
文章分类： AI安全,安全建设,政策法规,威胁情报,安全运营
媒体声音 | 启明星辰：深化实施“人工智能+安全”，筑牢智能安全新防线
启明星辰集团
2026年2月9日 17:11
北京
2025年，人工智能（AI）作为新一轮科技革命与产业变革的核心引擎，深刻改变了网络安全的技术路径与对抗格局。与此同时，其自身稳健性与安全性也受到高度重视，“AI+安全”产业发展迎来新的发展机遇。
一方面，顶层设计持续强化，推动“AI+安全”能力向合规化发展。《中华人民共和国网络安全法》完成首次重大修改，增设了AI安全相关规定，明确提出“国家支持人工智能基础理论研究和算法等关键技术研发，推进训练数据资源、算力等基础设施建设，完善人工智能伦理规范，加强风险监测评估和安全监管，促进人工智能应用和健康发展。支持创新网络安全管理方式，运用人工智能等新技术，提升网络安全保护水平。”这从法律层面确立了发展与安全并重的原则，为国家支持AI发展及其治理体系建设奠定了基本框架。
另一方面，AI赋能攻防博弈，推动“AI+安全”应用纵深发展。当前，攻防双方均积极利用AI技术提升自身能力，推动攻防博弈迈向高维智能化阶段。生成式人工智能（GAI）的普及使深度伪造、自适应攻击等新型威胁规模化、低门槛化特征，对社会信任基础构成严峻挑战，倒逼防御技术快速从实验室走向实战。防御方积极利用AI提升威胁检测、自动化响应与态势感知能力。攻防双方在智能化能力上的持续对抗，进一步深化AI与安全的融合发展。
展望2026年，在政策引导与技术革新的双重驱动下，“AI+安全”的发展将持续走深向实，呈现出融合化、场景化、应用化、高韧性的特征，主要体现以下三个方面：
一是AI赋能安全与AI应用安全并行发展。当前，AI与安全的融合正从单点工具应用向体系化能力重构深化。AI赋能安全正向高度智能体化演进，包括网络安全运营、威胁检测、数据安全、脆弱性评估、威胁情报分析及智能化渗透测试等在内的各类安全智能体，正逐步成为大型组织的核心安全能力选项。同时，AI应用安全催生了多样化、细分化产品和技术方向，例如大模型应用防火墙、安全护栏、访问代理、数据脱敏、AI生成内容溯源、大模型安全评估与运行时保护等技术与产品将日趋完善，推动AI应用安全防护体系不断完善。
二是AI安全治理体系将在实践中持续完善。随着相关法规落地见效以及AI安全事件频发，监管与实践的重点将从原则框架转向实施细则。针对AI大模型的安全检测评估、威胁建模、生成内容真伪鉴别以及训练数据的合规使用与溯源等领域，将成为技术研发、标准制定和监管执法的长期焦点。其中，AI威胁建模分析成为系统构建和落地实施AI安全治理体系的基础性环节，应基于实战攻防推演与安全智库研判，构建覆盖全局的大模型威胁框架，深入剖析模型自身、数据与隐私、基础设施、模型应用及智能体等关键层面的安全威胁；通过系统识别潜在风险、全面评估现实漏洞，形成动态风险图谱，为制定精准防御策略、落实负责任人的工智能发展提供体系化支撑。
三是智能体集群化应用催生智能体安全发展。随着AI智能体在多样化场景中逐步实现协同与集群化作业，多智能体与集群化趋势日益显著，相应的新型安全机制亦需前瞻布局。其安全范畴应从单一智能体扩展至整个智能体集群的协同安全与全局可控，涵盖多智能体系统的身份认证与权限管理、行为协调与合规审计，并需加强对模型上下协议（MCP）、智能体间交互协议（A2A）和智能体构建协议（ACP）等主流交互协议的安全保障，从而系统应对可能出现的协同失控、链路攻击与责任界定等新型风险挑战。
文章引自于：《中国信息安全》
•
END
•
免责声明：
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。
任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。
本文转载自：启明星辰集团 《媒体声音 | 启明星辰：深化实施“人工智能+安全”，筑牢智能安全新防线》