文章总结： 文章强调数据安全是人工智能健康发展的必要条件，为AI提供稳定可信合规的环境。保障数据安全可解决AI面临的虚假数据、数据投毒、隐私泄露等问题。文章提出通过强化关键核心技术突破、数据基础设施建设和协同治理格局构建，以高质量数据供给促进人工智能健康发展。
综合评分： 88
文章分类： 数据安全,AI安全,政策法规,安全建设,解决方案
专家观点 | 以数据安全促进人工智能健康发展
肖文
中国信息安全
2025年12月8日 18:07
扫码订阅《中国信息安全》
邮发代号 2-786
征订热线：010-82341063
文 | 系浙江大学经济学院教授 肖文
党的二十届四中全会指出，“加快人工智能等数智技术创新，突破基础理论和核心技术，强化算力、算法、数据等高效供给”。人工智能作为新一轮科技革命的关键领域和产业变革的核心动力，引领着经济社会发展范式变革。习近平总书记指出，“全面推进人工智能科技创新、产业发展和赋能应用，完善人工智能监管体制机制，牢牢掌握人工智能发展和治理主动权”。数据、算力和算法是人工智能的三大要素，数据为人工智能发展提供了“燃料”，而人工智能发展又会形成海量数据，由此形成人工智能迭代演进的良性循环。在实践中，保障数据安全，强化高质量数据供给，对于人工智能健康发展至关重要。
数据安全是人工智能健康发展的必要条件
2022年末大模型兴起，今年初DeepSeek以开源模式进一步推进了人工智能的迭代及应用，人工智能技术从实验室走向经济社会，对数据安全提出了更高要求。保障数据安全，为人工智能发展提供稳定、可信、合规的环境，是促进人工智能健康发展的客观要求和必要条件。
数据安全能为人工智能发展提供稳定环境。数据要素是数字经济时代的核心战略资产，充分释放数据要素价值是发展人工智能的必然要求。人工智能发展需要海量数据集聚并进行训练，但人工智能技术本身对于数据的真实性并无判断的能力，大量虚假的、失真的数据供给将会导致人工智能输出虚构信息。不仅如此，数据篡改、“数据投毒”等恶意行为，将会严重影响数据可靠性和完整性，直接破坏人工智能模型的性能，对于高度依赖人工智能决策的领域带来极大危害。例如，在无人驾驶、医疗诊疗等领域，大量虚假数据、合成数据等会导致输出结果失真，从而形成错误决策，带来风险挑战。保障人工智能数据安全，为人工智能提供真实可靠、训练充足的优质数据，能够为人工智能提供稳定的发展环境。
数据安全能为人工智能发展提供可信环境。人工智能加速融入经济社会运行各个领域，能够集成公开数据、个人数据等各类数据，进而通过分析挖掘更深层次的数据。但人工智能模型黑箱的特性也导致数据源头追溯存在困难，大量的虚构信息将会导致幻觉问题，用户难以进行有效辨别和追溯，影响着人工智能应用和发展的底层逻辑。不仅如此，人工智能在发展进程中，算法设计、数据训练、决策执行等环节也存在着算法不透明、模型歧视、责任认定模糊等问题，倘若缺乏相应的监管，就会将既有的虚假信息、社会偏见等负面影响进一步放大并精准推送。提升数据安全性，保障高质量数据供给，对于营造一个可信的人工智能发展环境至关重要。
数据安全能为人工智能发展提供合规环境。人工智能发展依托海量数据，推动我国人工智能朝着有益、安全、公平方向健康有序发展，源头在于保障数据安全。一方面，人工智能集聚海量数据，在模型运行、数据流通等环节中存在敏感信息泄露的风险。不仅如此，人工智能平台拥有强大的数据搜集能力，但原始数据与衍生数据的归属权、使用权等问题并没有明确的界定，数据保护有待提升。另一方面，基于人工智能技术开发的脑机接口、人机交互设备等产业不断兴起，这些产业的发展将会自主无意识收集大量个人敏感的大脑数据，并且极大改变人与人之间的交互模式，现有加密技术难以完全阻断黑客逆向解码风险，数据安全和隐私保护难度加大。保障数据安全，才能更好地破解人工智能发展过程中的隐私泄露、伦理风险等，推动人工智能合规发展。
在人工智能技术进步中更好保障数据安全
数据安全与人工智能健康发展相辅相成、互为依托，习近平总书记强调，“我国数据资源丰富，产业体系完备，市场空间巨大，发展人工智能前景广阔，要加强政策支持和人才培养，努力开发更多安全可靠的优质产品”。这就要求在数据安全中更好地促进人工智能健康发展，在人工智能技术进步中更好地保障数据安全，以高质量数据供给促进人工智能健康发展。
强化关键核心技术突破。不论是保障数据安全，还是发展人工智能，关键在于以问题为导向，全面增强创新能力，确保关键核心技术牢牢掌握在自己手里。一方面，要加大对数据安全、人工智能等领域基础研究和关键核心技术的支持力度，通过设立专项资金等方式加大研发支持力度。尤其是发挥好企业创新主体作用，加强企业与科研院所在数据安全防护、数据加密传输等领域技术的联合攻关。另一方面，引导高校面向数据安全与人工智能发展等领域调整专业设置方向，以“微专业”培养高技术人才。同时，强化高校、科研院所、企业等创新主体联合培养复合型人才机制，充分发挥人才作为第一资源的作用。
强化数据基础设施建设。数据流通是充分释放数据价值的重要路径，加快建设数据基础设施，能够更好地促进数据安全流通，为人工智能发展注入原动力。一方面，加快数据基础制度建设，形成数据领域的规划体系，加速构建数据要素全国统一大市场。同时，合理布局和建设数据可信空间，推进区域、行业数据基础设施互联互通以及算力基础设施一体化发展，保障数据要素安全流通。另一方面，加快数据标准体系建设，明确数据采集、数据挖掘、数据流通、数据保护等方面的标准，分领域推进行业数据高质量归集和高效利用。不仅如此，还要积极参与国际标准制定，提升数据标准领域的话语权。
强化协同治理格局构建。保障数据安全既要应对技术风险，也要防范社会风险，需要政府、企业、协会、科研院所等多主体共同参与，构建和完善协同治理格局。一方面，在现行法律法规基础上，完善人工智能算法、加密数据保护、个人隐私保护等重点领域政策法规体系，健全完善数据治理、数据安全等制度，为保障数据安全奠定基础。另一方面，明确政府、企业等主体责任，创新监管模式，促进信息共享，强化公众参与，搭建协同治理的框架体系。尤其是构建数据安全的评估平台，制定人工智能数据安全的指标体系，降低数据安全风险，提升人工智能发展成熟度，以此促进人工智能健康发展。
（来源：光明网）
分享网络安全知识 强化网络安全意识
欢迎关注《中国信息安全》杂志官方抖音号
《中国信息安全》杂志倾力推荐
“企业成长计划”
点击下图 了解详情
免责声明：
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。
任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。
本文转载自：中国信息安全 肖文《专家观点 | 以数据安全促进人工智能健康发展》