文章总结： 文章概述了国际组织及欧美等国对人工智能生成合成内容的法律制度建设。各国普遍确立了透明度义务，强制要求对AI生成内容进行标注或披露，并建立了相应的处罚与问责机制。欧盟《人工智能法》设定高额罚款，美英澳则通过立法与指南强化监管，旨在确保AI系统使用的可靠性与透明度。
综合评分： 75
文章分类： 政策法规,AI安全
国际 | 人工智能生成合成内容标识及法律制度
张慧等
中国信息安全
2025年12月26日 18:24
北京
扫码订阅《中国信息安全》
邮发代号 2-786
征订热线：010-82341063
文 | 重庆市第三中级人民法院 张慧 李能文 简元华
国际组织：确立规范框架
国际组织对人工智能生成合成内容标识及保护曾多次在相关文件中确立规范框架，形成了政策法律依据，供各国参照施行。
联合国顶层决议。2022年10月26日，联合国秘书长古特雷斯宣布成立联合国人工智能高级别咨询机构，为国际社会加强对人工智能的治理提供组织支持。
2023年7月18日，联合国举行人工智能会议，呼吁采取与航空、气候和核能监管类似的方式，设立全球人工智能监管机构。2024年3月21日，第78届联合国大会一致通过《抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展》的决议。
教科文组织及知识产权组织决议。1979年，联合国教科文组织和世界知识产权组织联合召开利用计算机技术生成内容的著作权问题讨论会。此讨论内容持续到1982年，最终形成《计算机系统生成的内容及其创作所产生的著作权问题解决建议》。
2021年11月24日，联合国教科文组织发布《人工智能伦理问题建议书》，要求成员国根据自愿原则建立本国人工智能伦理框架。
2023年11月，联合国教科文组织发布《在教育和研究中使用生成式人工智能的指南》，要求对人工智能生成内容进行审核、标识。
2024年2月，世界知识产权组织发布《生成式人工智能：知识产权导航》报告，报告提出“记录留存”建议措施，措施包括记录人工智能工具的训练过程、保留用户提示记录、记录人类在创作过程中的作用等。
欧盟：严格透明度义务及处罚制度
2024年8月1日，正式生效的欧盟《人工智能法》，规定了人工智能生成合成内容的透明度义务以及处罚规则。
透明度义务。欧盟《人工智能法》第50条规定的人工智能系统提供者和部署者透明度义务主要有四项：1.确保自然人一般性互动。即所提供的内容应确保设计和开发方式，使有关自然人知道他们正在与人工智能系统互动。2.以机器可读的方式进行标注。要求生成合成音频、图像、视频或文本内容的标注应能由机器读出。3.能够将系统运行情况（背景情况）告知所接触的自然人。4.生成或操纵构成深度伪造的图像、音频或视频内容的，应当披露该内容是深度伪造的。
处罚罚则。欧盟《人工智能法》第99条规定，人工智能生成合成内容提供者和使用者不履行透明度义务的，可处以最高1500万欧元的行政罚款，如果违规者是企业，则最高处以相当于其上一财政年度全球年营业总额3%的罚款。各成员国由主管法院或其他法律授权的机关处罚。各成员国市场监督管理机关行使本条规定的权力时，应遵守欧盟和成员国法律规定的适当程序保障，包括有效的司法救济和正当程序。欧盟《人工智能法》第101条强调，欧盟法院拥有不受限制的管辖权，可审查确定罚款数额的决定，有权取消、减少或增加罚款。
美国：明确标识内容及问责制度
美国在联邦和州一级通过了大量人工智能法案，明确了人工智能生成合成内容标注透明问责制度。
明确标识内容。2023年6月，美国国会众议员TORRES提出《2023年人工智能披露法》议案，要求生成式人工智能应当在其生成物上标注“声明：本物由人工智能生成”等内容。
2024年4月，美国国家标准与技术研究院发布的《降低合成内容带来的风险》报告，列出了检测、验证和标记合成内容的方法。
在州立法层面，2018年，加州通过的《提升网络透明度法》规定，任何使用聊天机器人与用户进行交互时，如果没有明确披露相关信息，都是非法行为。2024年9月通过的《加州人工智能透明度法案》，要求在人工智能大模型系统中添加隐性标识。
强化问责制度。2023年10月30日，美国发布《关于安全、可靠、值得信赖地开发和使用人工智能的行政命令》，要求商务部制定人工智能生成合成内容认证和水印指南。
2022年4月，美国联邦贸易委员会发布《联邦贸易委员会消费者保护指南》，对人工智能提出“透明、可解释、公平且符合经验，促进问责制”要求。
2022年10月，美国白宫科技政策办公室发布《人工智能权利法案蓝图:让自动化系统为美国人民服务》白皮书，要求人工智能成果具有透明和可解释性。
英国：创新监管模式和方法
英国对人工智能监管工作持谨慎态度。针对人工智能应用中的实际情况，推出了新的监管措施，落实标签和登记制度。
明确监管部门及监管原则。2023年8月，英国政府就人工智能对版权构成的风险向媒体和创意产业征询意见。同时明确了责任部门，即由英国通信管理办公室、竞争和市场管理局、信息专员办公室和金融行为监管局等监管机构负责各领域人工智能监管。
2023年3月，英国发布《创新的人工智能监管方式》白皮书，提出五项原则，即安全、可靠、稳健；适当的透明度和可解释性；公平；问责制和治理；可竞争性和补救。要求各监管部门在五项原则指导下，根据使用人工智能的具体环境协同监管工作。
实行许可登记制度。2025年3月，英国通过的《人工智能（监管）法案》规定，任何提供涉及人工智能的产品或服务的人，必须向客户提供“清晰明确的健康警告、标签”。
2025年6月，英国版权许可代理机构、作者许可与集体管理协会和出版商许可服务机构共同宣布了一项重要举措，即计划推出人工智能培训集体许可框架。根据该框架，将建立一个国家权利保留登记处，被许可人必须遵守严格的透明度要求，包括报告所使用的作品、内容获取方法和下游用途，最终目标是加强创意产业与人工智能开发者之间的信任。
澳大利亚：制定安全标准和使用指南
澳大利亚制定了人工智能法律框架、安全标准和操作指南，对人工智能生成合成内容的“透明度”制定了具体的要求。
保障框架及安全标准。2024年6月21日，澳大利亚财政部发布《国家政府人工智能保障框架》，要求为保障合理使用人工智能提供方法，确保人工智能系统可靠、透明和负责任。该框架制定了综合治理、数字治理、应对风险方法、衡量标准、采购方式五项工作机制。
2024年9月5日，澳大利亚工业、科学和资源部公布了《自愿性人工智能安全标准》。其中第六项标准规定：告知最终用户有关人工智能决策、与人工智能的交互及人工智能生成等信息。第七项标准规定：为人工智能系统影响的用户、机构、人员和社会等提供各种帮助。第八项标准规定：对人工智能供应链中的下游机构的数据、模型和系统应保持透明性，以帮助有效应对风险。
工作指南。2024年10月21日，澳大利亚信息专员办公室发布的《关于隐私以及开发和训练生成式人工智能模型的指南》规定：当开发者试图使用他们已经持有的个人信息来训练人工智能模型时，需要仔细考虑隐私保护义务。同时发布的《关于隐私和商用人工智能产品使用的指南》规定：企业应当提供其使用人工智能的信息，确保任何面向公众的人工智能工具能清晰地识别出来。
（来源：人民法院报）
分享网络安全知识 强化网络安全意识
欢迎关注《中国信息安全》杂志官方抖音号
《中国信息安全》杂志倾力推荐
“企业成长计划”
点击下图 了解详情
免责声明：
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。
任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。
本文转载自：中国信息安全 张慧等《国际 | 人工智能生成合成内容标识及法律制度》