文章总结： 多国网络安全机构联合发布《人工智能在运营技术中安全集成的原则》指南，为AI与OT融合提供安全框架。指南提出四项核心原则：理解AI风险特性、审慎评估应用场景、建立治理框架和嵌入监督机制。文章指出AI可提升OT系统效率但带来新型威胁，强调人类始终是功能安全责任主体，并讨论了实施过程中的技术挑战和供应商透明度问题，呼吁全球协同治理以确保关键基础设施安全。
综合评分： 87
文章分类： AI安全,安全建设,政策法规,IoT安全,网络安全
AI赋能OT网络安全：指南来了！
原创
网空闲话
网空闲话plus
2025年12月5日 06:43
北京
随着ChatGPT的兴起，人工智能技术正以前所未有的速度融入人类社会各领域。在关乎国计民生的关键基础设施行业，运营技术系统作为控制物理世界的核心，其与人工智能的融合已成为不可逆转的趋势。当地时间2025年12月3日，美国网络安全和基础设施安全局联合澳大利亚、英国、加拿大、德国等九国网络安全机构，共同发布《人工智能在运营技术中安全集成的原则》，为这一融合进程提供了权威的安全框架。这份指南的诞生，标志着全球网络安全共同体在关键基础设施保护领域达成了重要共识。
机遇与风险并存的融合之路
人工智能为运营技术环境带来的价值是显而易见的。从预测性维护到实时异常检测，从优化能源调度到增强操作员决策支持，人工智能能够“提高效率、生产力、决策能力、节约成本并改善客户体验”。在普渡模型的各个层级中，人工智能展现出多样化的应用潜力：现场设备生成的实时数据可训练预测模型；可编程逻辑控制器可运行轻量级AI实现本地控制；监控与数据采集系统可利用AI进行早期故障预警；而大型语言模型则能在企业层为工作流优化与威胁分析提供支持。
然而，这种融合也伴随着前所未有的风险。指南明确指出，人工智能的引入可能带来“运营技术过程模型随时间漂移或安全流程被绕过”等新型威胁。这些风险不仅关乎网络安全，更直接影响到功能安全——在控制水坝、化工厂、交通系统的环境中，一旦人工智能系统出现故障或被恶意操纵，后果将是灾难性的。正因如此，联合指南的发布被视为“及时且必要的”，它为人工智能在运营技术中的安全应用提供了“亟需的指导”。
构建四维一体的安全原则框架
面对人工智能与运营技术融合的复杂性，联合指南提出了四项核心原则，形成了环环相扣的安全实施框架。
一是理解人工智能是安全融合的基石。这要求关键基础设施运营者必须超越对人工智能技术表象的认知，深入理解其内在风险特性。指南详细列举了人工智能在运营技术环境中可能引发的七类风险，从网络安全威胁、数据质量问题到模型漂移、可解释性缺失，每一类风险都可能直接转化为运营中断、安全事件甚至人员伤亡。特别值得注意的是“人工智能依赖”风险——过度依赖自动化可能导致操作员“失去手动安全操作设备所需的宝贵技能”。为此，指南强调必须对人员进行全面培训，使其能够在人工智能失效时仍能有效管理系统，这一观点与行业专家的观察不谋而合。NCC集团网络安全咨询公司首席产品经理Floris Dankaart指出：“运营技术团队面临的一大挑战是弥补技能差距，尤其是在人工智能方面。”
二是审慎评估应用场景是决策的关键。在引入任何人工智能系统之前，运营者必须回答一个根本问题：人工智能是否是解决特定需求的最佳方案？指南强调应首先考虑现有能力是否足够，“在追求更复杂、更新颖的人工智能解决方案之前”评估传统技术的适用性。这一审慎态度体现在指南提供的详细评估框架中，包括明确问题陈述、定义成功指标、识别利益相关者等步骤。更重要的是，指南强调必须理解“组织当前在运营技术环境中维护人工智能系统的能力”，以及扩展环境风险面可能带来的影响。这种系统化的评估方法，有助于避免为追求技术创新而忽视实际风险的技术决定论陷阱。
三是建立治理框架是长效保障。有效的治理结构需要跨越组织壁垒，整合多方专业知识。指南明确指出，这包括“建立明确的政策、程序和问责结构”，并确保“领导层完全投入人工智能系统的安全生命周期管理”。网络安全团队的角色尤为重要，他们需要将人工智能特有的战术、技术与程序纳入现有的威胁建模框架。值得注意的是，指南特别强调了监管合规的挑战——当前国际人工智能技术标准“主要针对信息技术环境”，而运营技术环境所需的“安全认证”标准仍在发展之中。这种标准滞后性要求运营者必须采取更加主动的合规策略。
四是嵌入监督机制是安全底线。无论人工智能系统多么先进，“人类始终是功能安全的责任主体”。这一原则在指南中得到反复强调，并转化为具体的实施要求：建立监控机制记录人工智能的输入输出；设定安全行为阈值以便及时检测异常；设计故障安全路径确保系统失效时能够“优雅降级”而不影响关键操作。Darktrace联邦首席执行官Marcus Fowler对此评价道：“这些原则高度重视行为分析、异常检测以及安全运行边界的建立，从而能够在人工智能偏差、模型变更或新兴安全风险影响运营之前识别它们。”这种从静态阈值到动态行为监控的演进，代表了运营技术安全理念的重要进步。
实施路径中的现实挑战与行业共识
尽管原则框架已经明确，但人工智能在运营技术中的安全实施仍面临多重现实挑战。技术层面，运营技术环境的异构性、实时性要求与人工智能系统的特性存在固有张力。Floris Dankaart敏锐地指出：“运营技术环境通常比信息技术环境更加结构化和确定性，这可能与许多现代基于大型语言模型的人工智能应用相冲突。”这种冲突在需要毫秒级响应的工业控制场景中尤为明显。
供应商生态的透明度是另一大挑战。随着越来越多的运营技术设备内置人工智能功能，运营者往往面临“黑箱”困境——他们难以了解这些人工智能系统的决策逻辑、数据流路径或潜在脆弱性。指南要求运营者通过合同条款明确供应商责任，要求提供软件物料清单，并建立明确的数据使用政策，这些建议直击当前供应链安全的核心痛点。
值得关注的是，指南对大型语言模型在运营技术中的应用持特别谨慎的态度。Marcus Fowler指出，指南“建议谨慎对待在运营技术环境中基于不可预测性和有限可解释性的LLM优先方法，因为这种方法会造成不可接受的风险，尤其是在人员安全和运营连续性受到威胁的情况下。”这种审慎态度反映了安全界对生成式人工智能在关键系统中应用的普遍担忧。
迈向协同治理的未来
联合指南的发布本身就是一项里程碑成就。Fortinet公司企业及政府事务副总裁Hugh Carroll评价道：“包括美国网络安全和基础设施安全局、英国国家网络安全中心和加拿大网络安全中心在内的全球领先网络安全机构发布了亟需的指南……这种全球协调值得关注，也凸显了该问题的重要性。”这种跨国、跨机构的协同努力，为应对无国界的网络威胁提供了新的治理范式。
展望未来，人工智能在运营技术中的安全融合将是一个持续演进的过程。随着技术发展、标准完善和最佳实践积累，我们有望看到更加精细化、场景化的安全框架。但不变的核心原则是：安全必须是设计之初就嵌入的基因，而非事后的补救措施；人类必须始终保持对关键系统的最终控制权；跨学科协作必须成为组织文化和运作模式的一部分。
正如指南结论所强调的，通过遵循这些原则并持续监控、验证和完善人工智能模型，关键基础设施运营者能够实现“人工智能与控制重要公共服务的运营技术环境的平衡集成”。这条平衡之路充满挑战，但对于保障数字时代的社会运转基石而言，这不仅是技术选择，更是社会责任。
参考资源
1、全球网络机构发布关键基础设施人工智能安全指南 – SecurityWeek
2、https://industrialcyber.co/cisa/global-security-agencies-issue-joint-guidance-to-help-critical-infrastructure-integrate-ai-into-ot-systems/
2、https://www.cisa.gov/sites/default/files/2025-12/joint-guidance-principles-for-the-secure-integration-of-artificial-intelligence-in-operational-technology-508c.pdf
免责声明：
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。
任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。
本文转载自：网空闲话plus 网空闲话《AI赋能OT网络安全：指南来了！》