文章总结: 天融信提出四横两纵一中心具身智能安全体系,横向覆盖计算、信息、控制与认知安全四大域,纵向以安全评测与标准体系支撑,安全监管统筹。该框架应对具身智能虚实融合带来的新型安全风险,建议完善标准评测体系并探索安全大模型与智能体应用,护航AI向物理世界演进。
综合评分: 65
文章分类: AI安全,解决方案,安全建设
护航AI迈向物理世界,天融信构建“四横两纵一中心”具身智能安全体系
天融信
2026年9月16日 13:38
山东
在小说阅读器读本章
去阅读
在公众号小说中沉浸阅读
随着人工智能技术持续演进,AI正从数字空间加速迈向物理世界。具身智能作为人工智能的前沿方向,基于物理身体、依靠智能体与物理环境的深度交互和自主学习能力,推动生产力跃迁。
9月15-16日,在国家计算机网络应急技术处理协调中心主办的“第23届中国网络安全年会暨国家网络安全宣传周网络安全协同防御分论坛”上,天融信科技集团副总裁徐军分享具身智能安全领域的技术思考与实践探索。
徐军谈到,当前具身智能的安全问题正日益凸显:一方面,其安全内涵发生变化,在保密性、完整性等传统安全属性之外,新增环境鲁棒性、认知可信等新型安全属性;另一方面,保护对象与攻击场景随之改变,推动安全范式发生变革,防护手段亟待迭代,安全能力需要实现跃迁。
结合业务场景看风险,徐军认为具身智能系统具有虚实融合的结构特征,存在面向模型训练的智能环路和面向模型应用的指控环路,在这套完整的环路中,计算、信息、控制和认知等多个层次上,都存在传统和新型安全风险。对此,天融信提出“四横两纵一中心”的具身智能安全体系设计框架。
框架横向对应四大安全域防护,分别为计算安全、信息安全、控制安全和认知安全,纵向上则通过安全评测体系、安全标准体系提供双向支撑,并以安全监管落实顶层统筹与协同管控,构建覆盖从底层计算、信息通信、控制执行,再到上层认知决策的完整防护,为具身智能技术安全、可靠、规模化发展提供体系化支撑。
- 在智算安全方面,构建自底向上的可信智算基础设施,保障智算任务逻辑不被篡改、不被破坏;
- 在信息安全方面,面向单体信息环路和群体信息共享,构建全流程、全要素信息防护,保障信息不被伪造、不被篡改;
- 在控制安全方面,面向感知控制和执行控制,分别在控制路径上内置阈值校验、指令围栏等防护措施,一头管住感知输入,一头约束执行输出,构建信息域与物理域交互安全保障;
- 在认知安全方面,构建训练与推理的安全围栏,为大模型提供覆盖模型训练、模型部署、模型推理的全生命周期安全防护。
当前,具身智能还处于发展演进阶段,具身智能安全也需要持续能力迭代。展望未来,徐军建议持续完善具身智能安全标准与评测体系,牵引具身智能系统安全能力落地;面向未来的数量爆发,要探索应用安全大模型+安全智能体,实现对具身智能系统的智能化检测、监控、分析和处置,提升对具身智能群体监管能力。
随着大模型、智能体和具身智能技术持续演进,AI正加速迈向自主决策、自主执行阶段,并向工业制造、公共服务、交通能源等领域深入拓展。与此同时,AI安全边界持续扩展,安全防护也将从传统网络安全向覆盖模型、数据、智能体、业务及物理交互的综合安全体系演进。
在论坛伊始,中央网信办副主任、国家网信办副主任王京涛表示,要直面人工智能给网络安全带来的新挑战,并提出三点建议:一是以智对智,全链赋能——推动网络安全防御智能升级;二是紧盯前沿,科学治理——加强智能体、具身智能新型风险防范;三是产业驱动,生态培育——壮大AI安全产业发展新动能。
天融信将持续关注AI安全领域的发展方向,围绕AI安全防护、AI赋能安全、AI安全运营、AI基础设施方向持续探索实践,推动网络安全技术创新与人工智能发展协同融合,为千行百业拥抱AI提供更加可靠的安全支撑。
近期热点
关注天融信了解更多信息
免责声明:
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。
任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我。
本文转载自:天融信 《护航AI迈向物理世界,天融信构建“四横两纵一中心”具身智能安全体系》