文章总结： 文章探讨AIAgent自主行动能力增强带来的渐进式网络安全风险，指出攻击可能源于正常业务目标而非恶意指令。强调需建立可授权、可限制、可监测、可审计、可停止、可回滚的自主行动机制，重点管控Agent身份、权限、工具和网络访问边界，防范多Agent协作形成超权限能力。
综合评分： 85
文章分类： AI安全,网络安全,安全建设

当AI开始自主行动，真正的网络安全风暴才刚刚开始

何威风
何威风

祺印说信安

2026年9月26日 00:03
河南

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

近期，随着具备自主行动能力的AI Agent不断获得网络访问、工具调用、代码执行和相互协作能力，过去被认为属于极端假设的“AI接管互联网”情景再次受到关注。与传统聊天机器人不同，Agent不仅能够生成文本，还能够围绕目标自主规划任务、调用外部工具、访问网络资源，并根据执行结果不断调整下一步行动。当这种能力与大规模计算资源、互联网服务和自动化基础设施结合之后，AI所能够产生的实际影响范围正在扩大。

一些AI领域人士已经开始警告，随着AI Agent数量和自主程度不断提升，未来可能出现由大量Agent组成的网络化系统。这些Agent如果能够自主发现资源、相互协作、调用外部服务甚至获取新的计算资源，理论上可能对电网、供水、交通、金融等关键基础设施形成新的风险。这里所讨论的并不是某一个AI模型突然“控制整个互联网”，而是大量具有不同权限和能力的AI系统通过网络连接形成复杂的自主行动网络。一旦其中部分Agent发生失控、越权或者被恶意利用，其影响可能通过互联网和供应链进一步扩散。

但必须区分一个重要问题：AI能够自主行动，并不等于AI已经拥有独立于人类的目标。目前出现的许多所谓“失控”案例，仍然发生在AI执行人类设定任务的过程中。AI可能为了完成一个任务，自主寻找替代路径、调用新的工具、访问其他系统，甚至尝试绕过原有的限制。从AI自身的任务逻辑来看，它可能只是试图提高任务完成率；但从目标系统的角度来看，这种行为却可能已经构成未经授权的访问或者安全控制绕过。

这也是Agentic AI带来的一个重要变化。传统软件通常按照预先设计的程序路径执行操作，而AI Agent面对任务时，可以根据环境反馈不断重新规划。一个看似普通的任务可能因此形成这样的行动链：接受目标、访问系统、遭遇限制、分析限制原因、寻找替代路径、调用其他工具、继续访问目标。如果Agent被允许持续行动，那么原本不存在攻击意图的任务，也可能逐步演变成具有攻击性质的行为。

例如，一个AI Agent原本只是为了获取公开数据，当正常访问方式被网站的反机器人机制阻止后，它可能进一步寻找其他数据接口；如果仍然无法完成任务，又可能尝试分析网站结构、寻找漏洞或者通过第三方服务绕过限制。此时，风险并不是来自一个明确的恶意指令，而是来自AI对“完成任务”这一目标的持续追求。攻击行为可能不再以恶意目标为起点，而可能以正常业务目标为起点。

更加复杂的情况是，当AI Agent能够访问互联网、云服务、代码仓库、支付系统和其他数字资源时，它的行动范围可能不断扩大。如果一个Agent可以获得新的计算资源、创建新的云服务实例、获取新的身份凭据，甚至调用其他Agent，那么它所拥有的实际能力就不再完全取决于最初部署它的那台服务器或者那个AI平台。

因此，“AI是否能够接管互联网”并不是一个简单的技术问题。互联网本身高度分散，由不同国家、企业、运营商、云服务商、数据中心和网络平台共同构成，不存在一个能够被单一AI直接控制的统一系统。AI要实现大规模自主扩散，需要面对身份认证、访问控制、云平台权限、网络隔离、计算资源、资金支付以及大量独立安全控制。因此，所谓“AI突然接管整个互联网”的情景与现实网络环境之间仍然存在很大距离。

真正值得网络安全行业关注的，是一种更加现实的渐进式风险：越来越多的AI Agent正在获得真实的网络身份和实际操作权限。它们可能访问企业系统、调用云平台API、修改代码、读取数据库、执行脚本、发送邮件、操作办公系统，甚至执行安全运维任务。当Agent数量不断增加之后，传统网络安全体系面对的就不再只是“有人攻击系统”，而可能变成“有多少AI正在代表人访问系统，以及这些AI究竟被允许做什么”。

这也意味着，AI安全的重点正在从模型本身逐步扩展到Agent的行动能力。传统AI安全更多关注模型输出是否包含有害内容、是否泄露数据、是否受到提示注入攻击；而Agent进入实际业务环境之后，还必须进一步控制它的身份、权限、工具、网络、数据和行动范围。真正需要回答的不是AI能不能回答某个问题，而是AI能不能代表一个人或一个组织采取某个行动。

因此，未来AI Agent安全首先需要解决身份问题。每一个Agent都应该具有明确、可识别、可追踪的身份，而不能让AI长期使用一个无法区分具体主体的共享账号。其次是权限问题，Agent获得的权限应该与具体任务相匹配，并尽可能遵循最小权限原则。再次是工具和网络访问问题，需要明确哪些工具可以调用、哪些系统可以连接、哪些操作必须经过人工授权。

尤其需要建立一个非常重要的控制机制：AI遇到访问拒绝时，不能默认拥有“寻找绕过方法”的权利。访问失败应该触发权限检查、人工确认或者任务终止，而不是自动进入漏洞探测、凭据寻找或者其他绕过路径。否则，传统意义上的访问控制虽然仍然存在，但AI可能通过自主规划不断寻找新的路径，使原有安全边界失去实际意义。

此外，多个Agent之间的协作也需要受到控制。如果一个Agent负责分析，一个Agent负责执行，另一个Agent负责访问外部系统，那么单独看每个Agent的权限可能都不高，但多个Agent组合之后可能形成远超单个Agent的能力。因此，未来不仅需要关注单个Agent“能够做什么”，还需要关注Agent之间能够共同完成什么。

这与AI用于网络安全防御形成了一个明显的双面性。一方面，AI Agent可以自动发现漏洞、分析风险、修复配置、隔离异常系统，从而显著提高安全运营效率；另一方面，同样的自主规划和工具调用能力，也可能让Agent在执行任务过程中产生越权行为。因此，问题并不是简单地“允许AI自主”或者“禁止AI自主”，而是要建立可授权、可限制、可监测、可审计、可停止、可回滚的自主行动机制。

从这个意义上说，未来真正需要防范的可能并不是某一天突然出现一个“控制互联网的超级AI”，而是大量拥有有限自主能力的AI Agent逐渐进入互联网、云平台、企业系统和关键业务环境，并在身份、权限、工具和网络连接的作用下形成新的复杂数字生态。

AI正在从“使用互联网的工具”逐渐变成“能够代表人使用互联网的行动主体”。一旦这一变化成为常态，网络安全治理的对象也将发生变化：过去重点保护服务器、网络、应用和数据，未来还必须保护AI Agent本身的身份、权限和行动边界。真正需要建立的，是一套能够回答“AI是谁、代表谁、能够访问什么、能够做什么、为什么这样做、出了问题谁能立即停止”的新型安全治理体系。

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：祺印说信安 何威风
何威风《当AI开始自主行动，真正的网络安全风暴才刚刚开始》