据布鲁金斯学会与复旦大学联合报告，美国与中国的安全专家提出一项新规，禁止人工智能（AI）独立发起针对核指挥系统的网络攻击或自行决定使用核武器。
报告敦促华盛顿与北京将“人类控制核武器”的原则扩展至包括核指挥、控制与通信系统（NC3）在内的军事AI用途。专家写道：“特朗普总统与习近平主席可通过约定只有人类而非AI才能决定发起针对彼此核指挥系统或关键基础设施的网络攻击，来引领管控这些危险。”
NC3系统帮助政府探测威胁、决定是否使用核武器并传达发射指令，任何环节故障都可能导致误判或意外发射。
Myriad: Next round of US-Iran peace talks? Click to make your prediction.
研究人员指出，将核武器原则延伸至战略效果攻击，不要求双方共享网络安全其他原则。拟议协议要求降低由偶然、人为错误、不可预测AI或非授权方触发战略性攻击的风险。
此举源于对军事AI自动决策可能引发核危机的担忧。今年2月，OpenAI、谷歌和Anthropic的模型在95%的兵棋推演中使用了核武器。同月，Anthropic拒绝五角大楼移除Claude大规模监控与全自主武器限制的要求，特朗普曾下令停用其技术，但联邦法官裁定政府报复违法。
行业内呼吁放缓AI能力增长，Anthropic CEO达里奥·阿莫迪获OpenAI与xAI支持。在无约束背景下，布鲁金斯作者提出窄规则：仅人类可授权攻击核指挥系统或使用核武。“军事AI治理不容等待，这是与时间的赛跑。”