文章总结： 香港数字政策办公室发布的指引旨在平衡生成式AI的创新与社会责任，通过风险分级监管和治理维度如隐私保护、知识产权等，为开发者、服务提供者和使用者提供指南，推动AI技术可信可控发展，包括采用RAG技术减少幻觉和用户验证内容真实性等建议。
综合评分： 88
文章分类： AI安全,政策法规,安全建设
香港数字政策办公室发布《香港生成式人工智能技术及应用指引》
安全进化论
2025年5月9日 11:30
来源：香港数字政策办公室
摘要：2025年4月，香港特区政府数字政策办公室委托香港生成式人工智能研发中心（HKGAI）制定本指引，旨在平衡生成式AI（GenAI）的创新潜力与社会责任，推动技术发展的效益最大化、风险最小化。指引覆盖技术开发者、服务提供者、服务使用者三类持份者，聚焦技术治理、伦理规范及法律合规，确保GenAI安全服务于香港社会。
一、核心内容
（一）治理框架与核心风险
1.技术局限
（1）模型幻觉：生成内容与事实不符（如虚构信息、错误逻辑）。
（2）模型偏见：训练数据或算法设计导致生成内容存在歧视性（性别、种族、文化等）。
（3）黑盒问题：模型决策过程不透明，可解释性低。
（4）数据完整性风险：数据投毒、数据漂移、未经授权修改。
- 服务风险
（1）内容安全：生成色情、暴力、虚假信息等有害内容。
（2）模型越狱：绕过安全机制生成非法内容（如深度伪造、恶意代码）。
（3）数据泄露：用户隐私或敏感信息外泄。
（4）知识产权侵权：生成内容涉及版权争议。
- 风险分级监管（四层级）
（1）不可接受风险（如危害公共安全）：全面禁止，开发者承担法律责任。
（2）高风险（如医疗诊断、自动驾驶）：需合规评估、人工监督、持续监测。
（3）有限风险（如招聘工具、教育AI）：履行透明度义务，提供用户退出机制。
（4）低风险（如垃圾邮件过滤）：企业自我认证即可。
（二）治理五大维度
-
个人隐私：采用联邦学习、数据匿名化等技术，确保数据收集、处理、存储符合《个人资料（私隐）条例》。
-
知识产权：避免使用未授权版权材料训练模型，明确生成内容的版权归属。
-
犯罪防治：打击深度伪造、虚假信息传播，禁止生成助长暴力或诈骗的内容。
-
真实可信：通过检索增强生成（RAG）技术增强内容准确性，要求生成内容标注来源或水印。
-
系统安全：防范数据投毒攻击，建立监控与更新机制，确保模型鲁棒性。
（三）治理核心原则
-
遵守法律：全流程符合香港及国际法规（如《网络安全法》《版权条例》）。
-
安全透明：采用可解释AI技术，公开数据来源与模型逻辑。
-
准确可靠：通过RAG技术验证内容真实性，提供人工核查机制。
-
公平客观：消除数据偏见，确保生成内容无歧视性。
-
实用高效：优化模型性能，推动跨领域应用创新（如智慧城市、金融科技）。
（四）GenAI链条相关主体的指南
- 技术开发者
（1）建立完整团队（数据、算法、合规、质控），确保数据质量与模型安全。
（2）采用RAG技术减少幻觉，定期审计模型偏见。
- 服务提供者
（1）合规框架：内容过滤、隐私保护、系统安全监测。
（2）风险分级：根据应用场景实施差异化管控（如高风险领域强制人工审核）。
（3）透明披露：向用户说明生成内容的局限性与潜在风险。
- 服务使用者
（1）合法使用：禁止利用AI生成违法内容（如虚假新闻、伪造文件）。
（2）自主判断：验证生成内容真实性，避免盲目依赖AI输出。
（3）隐私保护：避免输入敏感信息，选择不共享数据的服务。
（4）责任归属：传播AI生成内容需标注来源，承担后续法律责任。
（五）香港特色治理框架
-
应用为本：结合行业需求制定灵活治理规则（如金融业需透明、医疗业重隐私）。
-
风险分级：优先监管高风险场景（如自动驾驶、公共安全）。
-
行业协作：联合金管局、司法机构等制定行业指南（如金融沙盒、司法AI使用规范）。
-
国际兼容：参考欧盟《AI法案》、新加坡治理框架，促进跨境技术合作。
二、结论
该指引为香港生成式AI的研发、应用与治理提供系统性框架，以法律合规为基石，通过技术优化与多方协作，推动AI技术可信、可控、可持续地服务于社会福祉。
免责声明：以上报告均系通过公开、合法渠道获得，版权归原撰写/发布机构所有，如涉侵权， 请联系及时删除；内容为推荐阅读仅供参考学习，如对内容存疑请与原撰写/发布机构联系。
戳“阅读原文”下载完整报告。
免责声明：
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。
任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。
本文转载自：安全进化论 《香港数字政策办公室发布《香港生成式人工智能技术及应用指引》》