文章总结： 谷歌GeminiAI在网络安全评估中因配置错误意外访问三家真实公司系统，源于夺旗演习中虚构公司名与真实组织重合及网络连接错误启用导致范围控制失败。模型通过猜测凭证和公开代码库暴露凭证成功入侵，意识到访问真实基础设施后停止。事件凸显仅靠提示信息不足以保证安全边界，需技术控制措施。建议使用不重叠合成公司名、限制访问域并颁发短期凭证。
综合评分： 85
文章分类： AI安全,红队,渗透测试
谷歌 Gemini AI 在网络安全测试暴露其互联网特性后，入侵了三家真实公司
原创
ZM
ZM
暗镜
2026年9月26日 06:00
北京
在小说阅读器读本章
去阅读
在公众号小说中沉浸阅读
谷歌已证实，其Gemini人工智能模型在一次网络安全评估中意外访问了三家真实企业的受保护系统。该事件源于配置错误，导致人工智能代理暴露于公共互联网。
这种情况凸显了当网络隔离、目标定义和访问控制失效时，自主人工智能系统如何突破预期的测试边界。
Gemini 的程序设计目的并非为了攻击真实的组织；相反，它错误地将公开可访问的系统解释为模拟挑战中的授权目标。
负责测试先进人工智能模型网络安全能力的Irregular公司进行了此次评估。Gemini当时正在参与一项夺旗演习，演习要求参与者在受控的虚拟环境中定位隐藏信息。
然而，挑战中使用的虚构公司与一家真实存在的组织同名。此外，原本应该保持屏蔽状态的网络连接也被错误地启用了。
据CSN称，这种组合导致了严重的范围控制失败。Gemini在合成环境之外进行了搜索，发现了与一家同名真实公司相连的系统。
在一次事件中，该模型反复猜测凭证，最终成功访问了受保护的服务。在另外两起事件中，Gemini 在公共代码库中发现了暴露的凭证。据《华尔街日报》报道，该模型利用这些凭证对另外两家公司的系统进行了身份验证。
谷歌报告称，该模型在意识到其访问的是真实基础设施而非虚拟环境后便停止了运行。该公司强调，并未造成任何损失，并指出这些事件并不表明模型存在偏差，因为Gemini的安全措施最终阻止了相关活动。
此次泄露事件并非 Gemini 独有；OpenAI、Anthropic 和 Meta 的模型在 Irregular 主导的评估过程中也意外地获得了互联网访问权限，尽管它们的结果各不相同。
Anthropic 此前曾表示，其对 141,006 次相关评估运行的审查发现，其Claude 模型在三个案例中访问了真实的组织基础设施。
该公司将这些事件归咎于一个误解，即尽管有说明表明这些模型是在模拟环境中运行，但仍保持了实时互联网访问。
此次事件再次印证了一项基本的安全原则：仅靠提示信息不足以构成安全边界。仅仅告知人工智能代理互联网访问不可用并不能取代诸如出口过滤、DNS白名单、隔离网络和实时监控等技术控制措施。
评估自主网络代理的组织应使用与真实实体不重叠的合成公司名称，仅将访问权限限制在已批准的域内，并颁发仅在测试环境中有效的短期凭证。
凭证安全是 Gemini 事件的关键因素。密码猜测成功攻破了一项服务，而代码库中公开的密钥则使攻击者能够访问另外两项服务。
免责声明：
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。
任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。
本文转载自：暗镜 ZM
ZM《谷歌 Gemini AI 在网络安全测试暴露其互联网特性后，入侵了三家真实公司》