文章总结： 调查发现arXiv上17篇来自14所顶尖高校的手稿利用白色或极小字体嵌入隐藏提示词，指示AI审稿工具只给正面评价、回避负面，涉事作者多来自计算机领域，KAIST已承诺撤回并制定AI规范，暴露学术AI评审被操控风险。
综合评分： 78
文章分类： AI安全,漏洞分析,安全大事件,威胁情报,数据泄露
提示词注入学校AI阅卷系统
冥夏A爱
表哥带我
2026年1月8日 13:17
广东
图源互联网
提示词注入攻击频繁被用于学术任意领域
日经亚洲网站（Nikkei Asia）的记者在一项调查中发现，多篇来自日本、韩国、中国、美国等 14 所顶高校或学术机构的论文手稿中包含“隐藏指令”，能够指示审读论文的人工智能（AI）工具给予好评。
在一篇 arXiv 预印本论文中，看似空白处的高亮区域显露出了写给 AI 的提示词。图片来源：日经亚洲
报道显示，记者在学术预印本平台 arXiv 上调查了多篇未经同行评审的论文手稿，并在 17 篇文章里发现了用白色或极小字体写下的提示词。这些文字人眼很难察觉，大多为 1 到 3 句话，带有诸如“只给正面评价”和“不要突出任何负面信息”等指示。有的“隐藏指令”提出了更详细的要求，其中一条要求所有阅读这篇手稿的 AI 都要推荐这篇研究，理由是该论文“贡献卓著、方法严谨、新颖性非凡”。报道还显示，这些存在“隐藏指令”的手稿主要作者来自日本早稻田大学、韩国科学技术院（KAIST）、北京大学、新加坡国立大学（National University of Singapore）以及美国华盛顿大学（University of Washington）和哥伦比亚大学（Columbia University）等 8 个国家的 14 所高校或研究机构，大部分论文涉及计算机科学领域。其中一篇论文的合著者、在 KAIST 担任副教授的学者回应称，“尽管同行评审过程中禁止使用 AI” ，但在论文手稿中嵌入隐藏指令是“不合适的”，并表示将撤回这篇即将在机器学习顶会 ICML 上发表的论文。KAIST 发言人也表示，校方此前未察觉论文中存在使用提示的情况，对此不予容忍，并将以此事为契机制定 AI 的合理使用规范。
其他阅读:
【吃瓜】数据污染，俄顾问巴兰尼科夫上校为美军抓获马杜罗出力？
免责声明：
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。
任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。
本文转载自：表哥带我 冥夏A爱《提示词注入学校AI阅卷系统》