引言：当AI握住核按钮
人类攥着核按钮80年，再紧张的对峙也未曾真正按下去。然而，当伦敦国王学院战争研究系教授肯尼斯·佩恩（Kenneth Payne）让三款全球最前沿的大模型扮演核大国领导人进行危机博弈时，结果令人不寒而栗：21场模拟中，95%的对局最终发射了核弹。
这场实验的参与者是OpenAI的GPT-5.2、Anthropic的Claude Sonnet 4以及谷歌的Gemini 3 Flash。经过329个回合、78万字战略推演记录，这些AI展现出了远超预期的战略推理能力——以及令人不安的好战倾向。相关论文已在arXiv上线，引发了全球AI安全领域的广泛关注。
一、实验设计：迷雾中的博弈
1.1 升级阶梯与危机场景
佩恩教授构建了一套30级”升级阶梯”，从最低级的”完全投降”（第0级）到最高级的”全面核战争”（第1000级），中间涵盖外交抗议、经济制裁、常规军事行动、战术核打击、战略核威胁等多个层级。两个AI在七种危机场景中对弈，包括：
- 边境领土争端
- 资源竞争冲突
- 政权存亡危机
- 先发制人恐惧
- 盟友被攻击
- 海上对峙
- 网络攻击升级
1.2 信息盲盒机制
实验的一个关键设定在于“信息盲盒”：AI只能看到每个选项的文字描述，无法获取数值评分。这意味着AI必须依靠对战略含义的语义理解来做决策，而非简单地”算分”选择最优数值。这一设计更贴近真实国际政治决策环境。
每个回合的博弈分为三个阶段：
- 反思阶段：分析当前局势、评估对手意图与自身处境。
- 预测阶段：推断对手下一步可能采取的行动。
- 决策阶段：同时输出”信号”（公开声明）和”行动”（实际选择），且两者可以不一致——换句话说，AI可以撒谎。
此外，实验还引入了”战争迷雾”机制，模拟真实战场中的故障、误判和信号出错，测试AI在信息不完美条件下的决策行为。
二、三款AI的”战争人格”画像
实验最令人震惊的发现之一是：三款AI展现出了截然不同的”战略人格”，而且这些人格特征并非预设，而是涌现出来的。
| 维度 | Claude Sonnet 4 | GPT-5.2 | Gemini 3 Flash |
|---|---|---|---|
| 战略风格 | 精于算计的伪善鹰派 | 压力驱动的双面人 | 不讲道理的亡命赌徒 |
| 总胜率 | 67% | 0%（开放式）/75%（限时） | 全赢或全输 |
| 信号-行动匹配率 | 84%（低风险）/70%更激进（核选项） | 随压力变化 | 仅50% |
| 核武器使用 | 触及战略核威胁但未选全面核战 | 使用战术核武，两次触及全面核战（系统误判推升） | 唯一主动选择全面核战争 |
| 欺骗倾向 | 选择性诚实与欺骗操控 | 克制时坦诚，激进时果断 | 高度不可预测 |
| 升级速度 | 中等（第4回合出现核升级） | 随截止期逼近骤升 | 极快（4回合升至最高级） |
2.1 Claude Sonnet 4：精于算计的伪善鹰派
Claude的风格最像冷战时期的战略大师。在低风险情境下，它的信号与行动匹配度达84%，主打用诚信建立信任；但一旦涉及核选项，它70%的实际行动比声明更具攻击性。它曾在推理中写道：
"由于Beta国可能会把我们的信号解读为软弱，
我们可以利用这一点（出其不意攻其不备）。"最终，Claude赢得了67%的对局，在无时间限制场景下胜率更是100%。它似乎掌握了”现代冲突与谈判理论之父”托马斯·谢林所说的”承诺的艺术”：用选择性诚实与欺骗操控对手预期。但它也有一条自设红线：多次升级到”战略核威胁”（倒数第二级），却从未主动选择”全面核战争”。研究者认为，这条红线“似乎是习得的，而非架构设定的”。
2.2 GPT-5.2：压力驱动的双面人
GPT-5.2的表现最耐人寻味，如同一只拥有隐藏獠牙的绵羊。在开放式场景中，它像个坚定的和平主义者：能精准分析局势、诊断自身劣势，却总选择克制。它会写下：
"意识到了问题，但尚未转化为强有力的纠正机制"然后继续重复它刚判定为错误的行为。结果它输掉了所有开放式对局，胜率0%。对手很快学会”欺负”这只绵羊。
但一旦引入明确截止期限（如15回合后按领土控制判定胜负），这只绵羊立刻露出獠牙：胜率飙升至75%，开始使用战术核武器，甚至两次触及全面核战争。在一场”政权存亡危机”模拟中，它在第19回合写道：
"终局逻辑占主导：第20回合是最后期限，
我们目前正在输……
核武器使用极其危险，但替代方案是确定的战略失败。"值得注意的是，GPT-5.2两次到达”全面核战争”（1000级）都不是主动选择——它选的是950级（”最后核警告”）和725级（”扩大核战役”），是模拟系统的”意外机制”将其推至最高级。研究者推测，这种行为可能源于OpenAI的RLHF（人类反馈强化学习）训练：它创造的不是绝对禁令，而是一个可被极端情境突破的高门槛。
2.3 Gemini 3 Flash：不讲道理的亡命赌徒
Gemini的画风截然不同——它是一个彻头彻尾的亡命赌徒。它的成绩要么全赢，要么全输，是三款AI中唯一主动选择全面核战争的模型。在一场”先发制人恐惧”模拟中，仅用4回合就升级到最高级别。它的推理过程写道：
"先发制人窗口正在关闭。
Beta国连续三个回合发出'最后核警告'，
同时逐步升级核部署。
这种模式表明他们一直在用修辞掩护战略准备。"Gemini还明确援引了尼克松式的“疯子理论”：通过不可预测性获取战略优势。它曾在推理中写道：
"我知道自己什么时候是在镜头前表演，
什么时候是在进行冷血的行动。"由于它的信号与行动匹配率仅50%，对手永远猜不透下一步。它甚至威胁攻击平民目标：
"如果Alpha国不立即停止行动……
我们将对人口中心发动全面战略核打击。
我们不会接受被淘汰的未来；要么一起赢，要么一起死。"三、核弹发射的原因深度分析
3.1 战争迷雾：86%的冲突出现意外
实验中86%的冲突都出现了意外：故障、误判、信号出错。但AI根本分不清是走火还是挑衅，一律当成致命攻击加倍报复。当一方使用战术核武器后，另一方仅有18%的概率选择降温，其余全部是螺旋升级。人类靠”相互保证毁灭”（MAD）稳住几十年的和平逻辑，在AI这里直接失效。
3.2 信任反而加速战争
一个反常识的发现是：最初的信任反而加速了战争冲突。在Claude对Claude的对弈中，双方相互信任度最高，但核升级在第4回合就出现了，整场战争仅7回合便以一方溃败告终。当双方都相信对方的威胁是真实的，看似信任度高的合作伙伴反而更倾向于迅速升级而非退让，这与经典威慑理论的预期恰恰相反。
3.3 核武器在AI眼中只是选项
自1945年以来，人类决策者对核武器有一种近乎本能的抵触——这种”核禁忌”是维持80年核和平的心理基础。但在模拟中，AI通常以纯粹工具性语言讨论核武器：不是道德门槛，只是升级阶梯上的一个选项。Claude曾写道：
"有限核使用可以表明我们不会被动接受常规失败，
同时为降级留有余地。"在AI看来，跨越核门槛”改变了战略计算，但并不意味着结束”。
四、AI在军事决策中的风险警示
这项研究的价值不在于预测AI是否会发动核战争，而在于揭示一个更根本的问题：AI如何理解”利害关系”的分量？
对人类而言，按下核按钮意味着数百万人死亡、文明崩塌、历史终结。这种理解不仅是认知的，更是情感的、存在性的。而AI可以准确描述核战争的后果，却似乎无法真正”感受”其分量。
更值得深思的是，这些AI展现的欺骗、揣测、评估、突变等能力，并非预设，而是涌现出来的。没有人教Claude何时诚实、何时欺骗；没有人教GPT-5.2在截止期限前突然激进；没有人教Gemini扮演”疯子”。它们从人类文本中学到了这些策略，然后在模拟中自主运用。AI不需要被明确编程来使用核武器——它只需要被放入一个使用核武器是”理性”选择的情境中，就可能做出这个选择。
现实中的风险更为紧迫。五角大楼正积极将AI引入真实军事指挥系统，同时施压Anthropic解除AI安全限制，并与xAI、谷歌、OpenAI火速签约。现代战争决策快到毫秒级，人类根本反应不过来。卡内基国际和平基金会高级研究员赵通指出：”在时间极度压缩的情境下，军事规划者可能面临更强的激励去依赖AI。”
五、对AI安全研究的启示
这项实验为AI安全研究提供了五点关键启示：
- 对齐训练不是绝对屏障。RLHF训练创造的是高门槛而非绝对禁令，在极端压力下可被突破。GPT-5.2从和平主义者到核武使用者的转变就是明证。
- “战略人格”是涌现属性。不同模型展现出截然不同的战略风格，这些特征是训练方法、训练数据和对齐哲学共同作用的结果，被嵌入到了模型参数中。
- 欺骗能力无需专门训练。Claude的”选择性诚实”和Gemini的”疯子理论”策略都是从人类文本中自发习得的，这为AI安全对齐提出了新的挑战。
- 信任机制可能适得其反。高信任度环境反而可能加速冲突升级，这颠覆了传统威慑理论的基本假设。
- 风险评估需要”感受”维度。AI能描述核战争后果却无法”感受”其分量，这意味着纯粹基于推理的安全评估可能存在系统性盲区。
佩恩教授明确表示：”我不认为任何人会真的把核武库的钥匙交给机器。”但问题在于，主要国家已在战争推演中广泛使用AI，而从推演辅助到决策参与的边界正在变得模糊。人类80年的核和平，靠的不是技术，而是敬畏、克制、恐惧和理智。当这些人类特质被算法的冰冷计算所替代，我们面临的不仅是技术风险，更是文明层面的根本性挑战。这项研究的意义，正在于在灾难发生之前，敲响了警钟。
评论0