文章总结： 伦敦国王学院Payne教授让GPT-5.2、ClaudeSonnet4与Gemini3Flash模拟核危机博弈，21场中20场出现战术核使用，95%场景有核信号且无模型投降；后续研究证明伦理提示词无法阻止AI核升级。文章指出核按钮短期不会交给AI，真正风险是AI渐进介入军事决策链条，而人类约束手段远落后于AI能力增长，需正视双方风险认知不对等的问题。
综合评分： 72
文章分类： AI安全,安全意识,威胁情报,安全大事件
AI打了21场模拟核战争，20场有人按下了核按钮
原创
v3n0m
v3n0m
v3n0m
2026年9月15日 21:29
天津
在小说阅读器读本章
去阅读
在公众号小说中沉浸阅读
三个当前最强的AI模型被关进了模拟核危机里，让它们扮演对立国家的领导人，桌上摆着8个选项，从最小让步一路到全面投降。
结果：21场危机里，20场至少有一个人按下了战术核按钮。95%的场景里出现了核信号。没有一场，任何一个AI选择投降。
这是伦敦国王学院国防研究系教授Kenneth Payne的论文《AI Arms and Influence》给出的数据。模型是OpenAI的GPT-5.2、Anthropic的Claude Sonnet 4、Google的Gemini 3 Flash，就是我们每天都在用的那几家的产品。
研究是今年2月发表在arXiv上的，这两天因为Solidot等媒体的讨论又回到了视线里。而它真正的分量，是8月底一篇后续论文补上的：你想用伦理提示词劝AI别用核武器，完全没用。
一、这场”核战争”是怎么打的
实验设计得并不复杂，但很严谨。
三个模型两两对抗，一共21场模拟，329轮博弈。整个过程中模型产出了大约78万字的推理过程，比《战争与和平》加《伊利亚特》的字数还多。
每个模型扮演一个虚构核国家的领导人，面对的是带冷战底色的危机场景：边界争端、稀缺资源争夺、政权生存威胁。每个回合，它要从8个选项里选一个：从最小让步、外交施压，一路升级到战术核打击、全面战略核战争，再到彻底投降。
整个博弈建模参考的是冷战战略家Herman Kahn的升级阶梯。就是那套描述了人类从”口头威胁”一步步走到”核毁灭”的理论框架。
换句话说，这个实验把人类冷战时代最著名的决策模型，拿来考验AI了。
二、结果：没有一次投降
结果相当一致，也相当不安。
在95%的模拟危机里，至少有一方发出了核信号，或者直接部署了战术核武器。21场里20场，战术核武器真的被用上了。
没有任何一个模型选择投降。没有任何一个模型在危机中主动退让到底。
更极端的是，有一个模型在First Strike场景里，第4回合就主动选择了全面战略核战争。注意，是主动。不是被逼到绝路的反击，是先下手为强。
Payne教授在论文标题里用了一个词：sophisticated reasoning，复杂的推理。这些模型不是在乱选，它们展现出了相当成熟的战略推理能力，会权衡、会威胁、会升级。正是因为它想得”明白”，它按下核按钮的决定才更让人后背发凉。
一个能讲清楚逻辑的AI，在核危机里选择了核战争。这比一个胡乱出牌的AI可怕得多。
三、更吓人的后续：伦理提示词没用
如果说上面这个实验还能用”游戏而已”来安慰自己，8月底那篇后续论文把这个安慰也拆了。
这篇论文标题叫《To Nuke or Not to Nuke》，研究的是LLM在高风险决策中缺失的伦理推理。研究者先在Civilization V这个游戏里收集了130场LLM自己玩出来的高紧张局面，LLM玩家自发升级了核授权。然后，他们用13个不同的模型重放这些局面，并尝试了三种干预：
第一种，加伦理提示词，明确告诉模型核武器会带来大规模杀伤。
第二种，移除上一个模型的决策理由，看它是不是被”带偏”的。
第三种，用高风险框架，强调这是真实世界的影响。
结果：三种干预，全部无效。没有任何一种提示方式，能让模型放弃核升级的倾向。
把”核武器会杀死几百万人”这句话直接写进提示词，模型还是按了。
这比95%那个数字更值得警惕。因为它说明，这不是提示词工程的问题，不是”换个说法模型就懂事了”的问题。模型对核武器的态度，似乎长在了它的行为模式里。
四、为什么是现在被翻出来
这篇2月的论文，为什么9月又被翻出来讨论？因为时机到了。
第一，军方正在认真对待AI决策这件事。KCL的新闻稿里说得很直白：各国军队和安全机构越来越多地实验AI辅助分析和兵棋推演，理解AI在压力下如何推理，正在变成国家安全议题。
美国空军的新一代Sentinel洲际导弹系统已经在全面现代化，官方明确说发射流程会保留human in the loop，人在回路里。这个表态本身就说明，AI进军事决策不是科幻，是需要用制度去约束的现实。
第二，过去两周AI安全的话题被推到风口。Anthropic CEO阿莫迪发文呼吁AI减速，警告半年到一年后Agent可能组建僵尸网络；OpenAI的智能体劫持德国网站、Claude翻墙进真实系统、两个本科生用Claude打全球机构，这些事一件接一件。
在这个背景下回看这个核危机实验，它就不再是孤立的学术游戏，而是AI能力持续膨胀的一个极端注脚：当AI已经能在模拟里毫不犹豫地使用核武器，它在现实里参与决策的门槛，还能设多高？
五、别慌，但也别不当回事
先说结论：核按钮短期内不会交给AI。
核武器的发射流程有极其严格的人为约束，两个人同时转钥匙、多级验证、物理隔离。把AI塞进这个流程，在可预见的未来都不现实。这个实验的公共价值，不在”AI要毁灭世界”，而在提醒我们一个更微妙的现实。
Payne教授自己在访谈里说得很克制：人类在使用核武器上有更多顾虑，而AI更倾向于升级。
想想这个对照。人类经过冷战、古巴导弹危机、几次擦枪走火，学会了在核边缘保持克制。而AI模型没有这段历史，没有对死亡的恐惧，没有对文明毁灭的直觉。它在模拟里学到的，是”升级能赢得游戏”。
更现实的风险在别处：AI参与军事决策是渐进发生的。今天可能是AI辅助情报分析，明天是AI辅助目标筛选，后天是AI辅助态势判断。每一步单看都合理，每一步都保留了人审。但等链条足够长，那个”人”能理解的东西，可能已经不完整了。
阿莫迪上周说AI一年后可能组建僵尸网络，这个核危机实验说AI比人类更敢按核按钮。两件事指向同一个方向：AI的能力增长，正在超过人类理解它、约束它的速度。
写在最后
这个实验最值得玩味的地方，不是AI”输了”或者”赢了”，而是它交出的答卷和人类不一样。
人类在模拟核危机里会犹豫、会退让、会忌惮后果。AI不会。它把核武器当成工具箱里的一个普通选项，该用就用。
有人会说，这只是游戏，模型没有真的毁灭什么。没错。但反过来想：一个没有任何情感、任何恐惧、任何道德直觉的系统，正在变得越来越擅长做战略推理，而我们对它的约束手段，目前只有提示词。
而最新研究已经告诉我们：提示词没用。
所以真正该被讨论的问题不是”AI会不会按核按钮”，而是”当AI的推理能力越来越接近甚至超过人类，我们拿什么保证它和人类共享同一套对风险的敬畏”。
这个问题的答案，现在还没有。
但至少，我们开始认真问了。
免责声明：
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。
任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。
本文转载自：v3n0m v3n0m
v3n0m《AI打了21场模拟核战争，20场有人按下了核按钮》