文章总结： 安全牛发布的《AgenticAI安全技术应用报告》分析了智能体AI系统在网络安全领域的应用与风险。报告提出了AgenticAI洋葱风险模型，将风险划分为内生性风险、使用性风险、供应链风险和伦理合规风险四层，并阐述了系统自身安全、使用安全和赋能网络安全的三重安全内涵。报告预测AgenticAI安全将在2年内进入规模化落地应用高峰期，5年左右市场将进入稳定增长阶段，并将推动网络安全从被动防御向主动防御转变。未来，以Agent为核心的自组织安全生态系统将成为新的安全能力构建方式，可能重构传统网络安全产业生态系统。
综合评分： 88
文章分类： AI安全,安全建设,威胁情报,安全运营,解决方案
《Agentic AI安全技术应用报告》发布
安全进化论
2025年4月24日 15:47
广东
随着大语言模型的不断迭代，DeepSeek 等前沿技术接连取得重大突破。AI开始从单一文字生成向文生视频、多模态、推理模型、世界模型、具身智能等更多元领域纵深发展。AI Agent 技术崭露头角并迅速崛起，其应用呈现出日新月异的蓬勃发展态势，涌现出OpenManus、Flowith、AutoGLM等代表性产品，智能体的推理和决策能力开始从功能单一化到体系化的关键跃升。同时，以Agentic AI（智能体AI系统）为核心的智能化产业生态在国内开始形成。在网络安全领域，AI 在网络攻防实战中的应用深度与广度与日俱增，企业安全建设所面临的局面愈发错综复杂。在这样的大背景下，借助 Agentic AI 为网络安全赋能，已成为首席安全官（CSO）们亟需全力破解的首要课题。但不容忽视的是，AI 自身潜藏的安全隐患犹如高悬之剑，让企业在规划构建 Agentic AI 系统的决策过程中顾虑重重。
安全牛作为网络安全和数字风险管理领域的第三方研究机构，自2023年起开始重点关注AI安全。2024年，安全牛将“AI应用安全”作为二级细分类纳入第十一版网络安全全景图。随着GenAI和AI Agent的快速发展，2025年在全景图中将“AI安全”升级为一级分类，并扩展了生成式AI模型安全、MLOps安全与模型供应链防护、网络安全大模型 、AI深度伪造及合成媒体安全、Agentic AI安全、AI治理与合规服务6个二级分类。
为帮助用户更深入地了解Agentic AI安全的技术成熟度和产业现状，为企业用户从传统安全向AI安全转型提供参考和支持，安全牛启动了《Agentic AI安全技术应用报告》报告（以下简称“报告”）研究工作。报告依托多方面调研分析，对Agentic AI发展背景、国内外政策、AI风险、安全理念、安全框架、建设实施、产业能力、代表性厂商、落地应用案例等诸多方面进行了研究，不仅揭示了Agentic AI内生安全、使用安全和赋能安全之间的关系，而且创新性地提出安全牛洋葱风险模型，以及AI治理和赋能网络安全的框架。同时，报告分析了当前的产业能力，对Agentic AI的技术成熟度进行了评估，对Agentic AI安全的未来发展进行了展望。
《Agentic AI安全技术应用报告》报告于2025年4月23日正式发布。
关键发现
1
在国际政策方面，调研发现：2023年是AI安全发展的一个重要转折点。全球主要国家和地区出台的政策和标准数量在2023年后都有显著增加，同时对AI安全可信、安全评估、产业协同等方面提出了具有突破性的新要求，政策和监管焦点也逐步从单纯的技术追赶，转变为寻求发展与安全之间的平衡。
2
我国AI安全治理方面，调研发现：近两年我国针对AI的法制治理力度持续增强，相比美国和欧盟更为积极。但目前阶段我国AI安全治理还缺乏足够的技术积累，安全评测技术仍处于早期探索和验证阶段，相关合规要求和防护措施亦需进一步完善。
3
在技术应用方面，调研发现：国内网络安全行业的智能化应用层次，正在从传统小模型向大模型和Agent应用扩展，但实践中，“LLMs+小模型协同”还是当前网络安全智能化的主要模式。
4
在产业格局方面，调研发现：顺应Agentic AI的发展趋势，网络安全行业衍生了AI安全治理和AI赋能安全两股新的安全领域；能力布局的厂商即有传统的网络安全厂商，也有AI安全的创新企业。
5
在AI赋能安全方面，调研发现：目前国内网络安全厂商在适用化应用和研究方面已经覆盖了威胁检测、上网行为管理、软件供应链安全、API安全、数据资产识别、安全运营、攻防对抗、威胁情报、安全知识库等多个细分能力领域。其中，开发安全、安全运营、攻防对抗这三个细分领域备受关注。
6
在AI大模型对软件供应链安全的影响方面，安全牛认为：不仅为软件供应链安全提供了新技术支撑，也对网络安全人才资源进行了重新分配。在Agentic AI的赋能影响下，软件供应链安全市场正在迎来它的“第二春”。
7
在Agentic AI安全技术成熟度方面，安全牛认为：Agentic AI安全的迭代和收敛时间相比其他安全技术会更短，预计会在2年内进入规模化落地应用高峰期，5年左右市场将进入稳定增长阶段。
8
在Agentic AI安全的未来趋势方面，安全牛认为：以Agents为核心的交付模式将为企业带来新的网络安全构建方式，Agentic AI将推动“被动防御”向“主动防御”转变。与此同时，传统网络安全产业生态系统也将经历新一轮重构。
Agentic AI概念与发展现状
Agentic AI System（智能体AI系统，简称Agentic AI）是能够理解目标，并通过感知、推理进行决策和行动，进而自主实现特定业务目标的一类智能系统。它包括大模型和智能体（Agent）两个主要组件。其中，Agent能通过编排与其他代理协同，自主地进行推理和决策，并完成更复杂的任务。
智能体（Agent）的发展日新月异。当前国内外的典型智能体可以分为以下几种类型：基础模型增强的研究型智能体、全流程软件开发智能体、任务自动化与工作流智能体、具身智能体 / 机器人智能体、智能体框架与平台。
当前我国热门的智能体类型主要是任务自动化与工作流智能体，典型产品有：Manus AI、Flowith、AutoGLM、Agent Tars。
从发展的角度看，智能体的应用开始出现多样化，既有通用型的，也有专业型的。其中，Flowith的应用实践标志着Agent技术实现了从功能单一化到体系化的关键跃升。AI应用范式正从以问答为核心的“被动服务模式”，向以目标达成为导向的“智能自动化体系”加速转型，以Agentic AI为核心的智能化产业生态开始形成。
Agentic AI洋葱风险模型
大模型和AI Agent的广泛应用使得针对Agentic AI的风险随之而来。传统的针对信息系统、网络系统的风险评估模型，在识别大模型和Agentic AI系统的风险时呈现出明显不足，特别是模型自身的生成内容风险和对抗性风险。
结合当下我国国情，安全牛基于数字安全与风险管理体系及各层级的安全风险分析，提出了安全牛的风险模型，我们称之为Agentic AI“洋葱风险模型”，如下图所示：
该模型基于Agentic AI系统的生命周期，按风险场景将Agentic AI风险划分为：内生性风险、使用性风险、供应链风险、伦理冲突与安全合规风险4层。在风险类别上覆盖了Agentic AI面临的6种风险类型，同时在风险管理上覆盖到Agentic AI系统的全生命周期。
洋葱风险模型以Agentic AI系统为核心，从“AI应用安全”向“AI生态安全”延展，从内向外依次是：内生性风险、使用性风险、供应链风险、伦理与安全合规性风险；其中，内生性风险、使用性风险根据风险产生的原因又可以细分为网络风险、数据风险、开发风险和模型算法风险。
Agentic AI安全三重内涵
基于洋葱风险模型，用户可以从系统自身安全、使用安全、赋能网络安全三个方面为Agentic AI构建完整的安全框架，为AI技术的健康发展提供有力保障。我们称其为Agentic AI的三重安全内涵。
- 系统自身安全 即内生安全，主要关注AI模型及系统的健壮性、可靠性和安全性，确保AI系统不受恶意攻击和篡改；
- 使用安全 强调AI应用在使用过程中的合规性、透明度和可控性，防止AI被滥用或误用，保护用户隐私和数据安全；
- 赋能网络安全是AI技术在网络安全领域的应用，通过AI技术提升网络安全的防御能力，如智能检测、预警和响应等，为网络安全保驾护航。
内生安全与使用安全，防护对象均聚焦于 Agentic AI 系统自身；而赋能网络安全，防护对象则为网络基础设施。为了便于分析，报告在研究过程中，将内生安全和使用安全统一归类为系统安全。后续内容主要围绕系统安全与赋能安全这两大方面详细展开。
Agentic AI安全管控框架
在Agentic AI系统安全方面，报告基于“洋葱风险模型”中的4层风险提供了相应的安全管理策略，构建了如下图所示的风险管控框架。
该管控框架以“使用安全”为中心，向外辐射依次构建了内生安全、供应链安全和合规管理的4个安全模块。通过模型验证与评测、风险识别与防护、风险监控、风险评估与审计、开发安全与模型增强、数字供应链管理6大安全能力，覆盖了“洋葱风险模型”不同层级的风险；同时，框架也针对Agentic AI系统安全构建了“验证-防护-监测-增强”这样一套风险管理闭环机制。同时，强调企业在Agentic AI系统的风险管理中，要做好使用前的风险评测、使用中的监测和防护、使用后的风险评估和审计。
建设中，安全牛建议：
- 秉持应用系统全生命周期安全的管理思路，系统性覆盖从开发、部署、运行到最终退市四个关键环节；
- 这种安全架构应当是立体化、多层级的，要配备实时动态监测机制，确保 AI 系统在各个阶段都能得到全面且持续的安全保障；
- 除了技术层面的防护措施，还需配套完善的管理流程。
Agentic AI赋能安全实现框架
为更好地理解Agentic AI系统安全和赋能安全之间的关系，安全牛结合传统网络安全、Agentic AI和风险管控三大系统，构建了Agentic AI赋能网络安全的系统实现框架。如下图所示，该框架包括企业网络及基础安全设施、Agentic AI系统和风险管控系统三个子系统：
- 企业网络及基础安全设施是现代组织IT架构的核心组成部分，提供企业业务运营所需的连接性、数据传输和安全保障，也是Agentic AI赋能安全的主要目标对象。
- Agentic AI系统是利用大模型和Agent技术实现网络安全赋能的系统，是整个赋能系统的核心能力。包括：大语言模型、Agentic AI系统安全、安全智能体三层，各层级相互协同，共同为网络安全赋能提供支撑。
- 风险管控系统，即“Agentic AI系统安全管控系统”，承担Agentic AI系统的风险评估、策略制定、合规性管理和应急响应等安全职能。
结合调研，安全牛从规划、设计、建设前、建设中和建设后5个方面为CSO构建赋能网络安全的Agentic AI系统提出了相关的建设原则。分别是：
- 规划阶段：明确战略定位和管理期望；
- 设计阶段：风险管理体系的整体布局；
- 建设前：场景驱动的渐进式实施；
- 建设中：可信模型与安全建设双轮驱动；
- 建设后：持续优化并注重环境适应与动态进化。
产业现状及国内代表性厂商
报告调研中访谈厂商共15家，覆盖到了Agentic AI安全治理和安全赋能两个安全领域。结合调研，报告分析并汇总了当前Agentic AI安全厂商的能力及产业特点。
1
产业能力布局
目前阶段Agentic AI安全主要分为：Agentic AI安全、Agentic AI赋能网络安全、安全大模型三类。其中，AI安全治理能力厂商有的源自传统网络安全领域，也有从专业AI研究领域分流出来的网络安全初创企业；相比AI安全治理，Agentic AI赋能网络安全的企业规模大很多。
2
产业特点
报告从技术发展现状、产业格局和产品交付形态3个方面具体分析了当前Agentic AI的产业特点：
技术应用现状：网络安全行业的智能化水平，正在从传统小模型向大模型和Agent应用扩展，但实践中，LLMs+小模型协同还是当前网络安全智能化的主要方式。
Agentic AI安全产业格局：顺应Agentic AI的发展趋势，网络安全行业衍生出AI安全治理和AI赋能安全两大新安全能力，能力布局的厂商既有传统的网络安全厂商也有AI安全的创新企业。
Agentic AI安全的产品形态：Agentic AI提供多种交付方案，能实现不同规模、不同性质企业的全面覆盖。为满足不同性质和规模企业的应用需求，Agentic AI安全方案在部署方式上展现出本地部署、SaaS部署和信创适配3种形态。
未来展望
随着深度学习、强化学习等技术的快速发展，融合多种数据类型（文本、图像、音频）的Agentic AI将会更全面、更深刻地理解用户环境和需求，这也将驱动Agentic AI为网络安全行业提供更加场景化和高阶智能化的功能。“AI+”已经是不可逆的技术趋势。未来，Agentic AI的应用又将会给网络安全带来怎样的变化？
基于研究，安全牛从政策、市场和应用方面探索了5个Agentic AI安全代表性的发展趋势：
1
政策方面
我国AI安全法制治理的力度将持续增强：继《生成式人工智能服务管理暂行办法》、强标GB 45438-2025《人工智能生成合成内容标识方法》后，国家将进一步出台针对 Agentic AI的专项法规，形成从国家安全、行业监管到技术标准的多层次治理体系；同时，国家级AI安全认证体系也将进一步完善。
2
市场方面
传统网络安全市场将加速整合，形成以AI能力为核心竞争力的新格局。具体来说，传统安全企业将大幅增加对安全特定AI模型的研发投入，形成新的竞争壁垒；传统安全厂商正承压转型，不具备 AI 核心能力的传统安全厂商将面临严峻挑战；同时，专注于 Agentic AI 安全解决方案的创新企业将迅速崛起，可能颠覆现有市场领导者地位；此外，拥有强大 AI 基础设施的科技巨头将凭借其数据和算力优势，在安全市场获得更大话语权。
同时，用于训练和部署安全AI代理的基础设施将成为投资热点。高质量的安全训练数据将成为稀缺资源，拥有独特安全数据的企业估值提升。AI人才也将向安全厂商倾斜，细分安全技术间的壁垒会逐渐被打破，能力间的横向协同进一步加强。市场价值将从安全产品转向AI安全能力，拥有先进 AI 模型和训练数据的企业将获得溢价。
3
应用方面
从安全态势来看，基于AI的攻防对峙新态势正在形成，Agentic AI将推动“被动防御”向“主动防御”转变。大模型释放的红利正在渗透各个行业，基于AI优势应对AI攻击已经成为当前行业、企业用户迫在眉睫的重要安全事项。在Agentic AI的助力下，预测性安全防护能力显著增强，这将加快行业从“被动防御”向“主动防护”演进的步伐，使基于AI的弹性安全、自适应安全防护成为可能。因此，无论是攻防对抗还是防护，Agentic AI安全都必将成为企业网络安全能力建设的重要组成部分。
从技术上看，大模型的快速迭代正在加速安全垂域大模型私有化和广泛应用的进程。当前大模型正在以前所未有的速度快速迭代，从DeepSeek的发布可以看出，大模型在算法优化和算力需求降低方面的进展，正在使安全垂域大模型私有化成为可能。基于企业安全的私密性需求，安全垂域私有化大模型将率先在数据安全要求高的企业落地应用。随着垂域大模型的进一步成熟，云安全运营商也势必在智能化转型的大趋势下将Agentic AI安全的红利惠及中、小规模企业。
从架构上看，以Agent 为主的自组织的安全生态系统将成为安全能力构建的新方式。在安全大模型应用推进的过程中，安全产品将回归安全能力，以功能菜单为主的工程化能力会被弱化，促使安全企业将核心能力做深做强，通过智能体直接调度安全能力提供安全服务。同时，Agentic AI安全将从单一代理向多智能体代理协同方向发展。通过多个Agentic AI之间的协作实现更复杂的系统性任务，如智能城市管理、供应链优化等。不同厂商的 AI 安全代理将协同工作，形成自组织、自优化的安全生态系统。庞大的一体化安全平台将被模块化、专业化的AI安全代理网络所取代，一体化安全平台或将消亡。
免责声明：
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。
任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。
本文转载自：安全进化论 《《Agentic AI安全技术应用报告》发布》