文章总结： 人工智能伦理风险呈现多维度特征，包括数据安全隐私侵犯、算法偏见、就业结构失衡和责任认定难题等。我国已构建软法硬法结合的治理体系，但面临原则抽象落地难、法律滞后协同不足等问题。建议从构建多元协同实施体系、完善全生命周期治理、强化能力支撑和深化全球协同治理四个方面完善人工智能伦理治理，推动人工智能向善发展。
综合评分： 92
文章分类： AI安全,政策法规,安全建设,数据安全,网络安全
专家观点 | 人工智能伦理风险及其治理
闫坤如
中国信息安全
2025年11月22日 13:57
北京
扫码订阅《中国信息安全》
邮发代号 2-786
征订热线：010-82341063
文 | 华南师范大学哲学与社会发展学院院长 闫坤如
党的二十届四中全会明确提出，要加强人工智能治理，完善相关法律法规、政策制度、应用规范、伦理准则。人工智能已深度融入生产生活各领域，在提升效率、优化服务的同时，也因技术不确定性和发展迅速，衍生出数据滥用、算法偏见、隐私泄露等日益突出的伦理风险，迫切需要构建科学完备的伦理框架，引领人工智能向善发展。
当前人工智能伦理风险因其技术特性、算法设计、数据质量与治理体系不完善等原因，呈现多维度、全链条扩散特征，对社会公平、个体权益及公共信任构成显著挑战。具体而言，数据安全与隐私侵犯风险尤为突出，数据在采集、处理到存储的全流程中存在泄露与滥用隐患，容易引发公众担忧，侵蚀社会信任基础。社会公平领域则面临算法偏差与数据鸿沟叠加影响，不仅会因训练数据失衡或算法设计偏好引发歧视性问题，还会加剧老年人、残障群体等“数字弱势群体”的边缘化与信息茧房效应，削弱社会共识基础。同时，人工智能技术的梯度替代特征逐步渗透低技能乃至创造性岗位，引发就业结构失衡与社会分化，冲击传统就业伦理。此外，责任认定难题因算法黑箱和多主体界限模糊日益凸显，导致侵权事件中常出现责任边界不清、追责困难的治理盲区，进一步加剧社会风险与治理失衡。
为防控人工智能伦理风险，我国基于自身价值取向与发展模式形成了具有自身特色的伦理准则体系，旨在以平衡发展与安全为核心，构建顶层设计引领的“软法+硬法”协同伦理准则体系。从软法层面看，2019年《新一代人工智能治理原则——发展负责任的人工智能》，确立负责任的人工智能导向，提出了人工智能治理的框架和行动指南。2021年《新一代人工智能伦理规范》首次将伦理道德融入人工智能全生命周期。2022年《关于加强科技伦理治理的意见》提出“伦理先行、依法依规、敏捷治理、立足国情、开放合作”五大要求完善政策闭环。从硬法层面看，出台的《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》等规范性文件，明确伦理审查要求，要求人工智能提供的服务需尊重社会公德和伦理道德。在治理架构上，以国家科技伦理委员会为统筹核心、多部门分工监管，同时通过《全球人工智能治理倡议》等积极参与全球治理。2025年8月印发的《国务院关于深入实施“人工智能+”行动的意见》进一步明确“探索形成智能向善理论体系”目标。《人工智能科技伦理管理服务办法（试行）（公开征求意见稿）》则明确了增进人类福祉、尊重生命权利等八大伦理原则。在法律层面，新修订的《中华人民共和国网络安全法》将于2026年1月正式生效，新增了人工智能风险监测评估和安全监管条款；而综合性的人工智能法也已列入立法计划，正在起草。总之，当前我国正加速构建多层次的人工智能伦理治理体系。
尽管我国治理实践持续深化，但人工智能伦理风险防控仍面临不少问题。一是原则抽象、落地困难，现有人工智能伦理原则普遍过于宏观，缺乏具体的评估指标和可操作的实施细则，难以转化为实际防控成效。二是法律滞后、协同不足，现行法律对人工智能技术引发的新型风险防范不足，尚未形成统一高效的法律监管体系。三是责任模糊、追责困难，人工智能技术链条长、参与主体多元，一旦出现问题，责任界定困难，影响问责与纠错机制的运行。四是治理零散、前瞻不足，当前治理体系存在碎片化现象，部门间联动不足，且偏重“事后补救”，缺乏对技术全生命周期的动态监管机制。这些问题共同制约了伦理准则从文本向实践的有效转化。
要让人工智能伦理准则真正更好发挥作用，需从体系构建、范式转型、能力提升、全球协同四个方面进一步完善伦理准则，以应对日益突出的人工智能伦理风险。
构建多元协同的伦理准则实施体系。强化国家主导、部门协同、产学研联动机制，夯实准则落地基础。在顶层设计上，由国家科技伦理委员会统筹，细化人工智能伦理风险分级标准，将医疗、金融、自动驾驶等重点领域纳入高风险清单，明确各主体责任；在部门层面，网信部门聚焦数据与算法安全，工信部门强化产业伦理规范，形成监管合力；在经营主体层面，强制高风险人工智能企业建立内部伦理审查委员会，推行伦理影响评估报告公开制度，行业协会建立伦理信用档案，实现准则刚性约束与自律引导相结合。当然，还要鼓励地方和行业进行差异化的制度创新。
完善全生命周期治理机制，推动“伦理先行”的准则范式转型。实现治理逻辑从“技术先行”向“伦理先行”转变，将伦理准则嵌入技术全链条。构建覆盖设计、开发、测试、部署、运维、退役全流程的动态治理体系。比如，研发阶段建立“伦理前置审查”制度，对训练数据开展偏见检测与清洗，推广可解释算法减少黑箱风险。应用阶段实施动态伦理监测，对高风险人工智能产品开展常态化评估，建立用户投诉响应机制。退役阶段完善伦理收尾流程，规范数据销毁与算法迭代。同时，将伦理合规纳入企业资质与科研立项评价，并建立清晰的问责机制，强化准则刚性约束。
强化伦理准则落地的能力支撑。在继续完善敏捷且协同的法律法规体系的同时，构建“教育——审查——科普”三位一体能力体系。在教育层面，高校人工智能等专业开设伦理必修课，常态化开展企业研发人员培训。审查层面，组建跨学科伦理专家库，吸纳技术、伦理、法律及公众代表参与，建立“随机抽查+重点核查”监督模式。科普层面，通过媒体宣传、公益讲座普及伦理知识，畅通公众参与伦理准则制定渠道，培育负责任使用人工智能的社会共识。同时推动准则的具体化与场景化转化，将宏观的伦理原则转化为如医疗、金融、自动驾驶等不同行业的具体标准、技术规范和最佳实践。
深化伦理准则的全球协同治理。开展“人工智能+”全球合作，主动落实我国提出的《全球人工智能治理倡议》《“人工智能+”国际合作倡议》，积极参与国际认证体系建设。推动建立全球人工智能伦理风险预警与案例共享以及伦理争议协调机制，形成具有广泛共识的人工智能治理框架和标准规范，明确人工智能相关主体的责任和权利边界，保障各群体合法权益，及时回应各方伦理关切，协同应对全球性风险，推动人工智能普惠共享。
（来源：学习时报）
分享网络安全知识 强化网络安全意识
欢迎关注《中国信息安全》杂志官方抖音号
《中国信息安全》杂志倾力推荐
“企业成长计划”
点击下图 了解详情
免责声明：
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。
任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。
本文转载自：中国信息安全 闫坤如《专家观点 | 人工智能伦理风险及其治理》