第V部分 · 现实世界中的 AI
国防与国际安全
第22章8 分钟阅读更新于：2026年9月
22.1AI：新的战略武器
正是在这一背景下，2026年初爆发了一场争端。五角大楼要求获得“一切合法用途”的使用权，不接受供应商施加的任何限制，理由是在紧急的国家安全情境中，应当由法律和民选政府而不是一家私营企业来划定界限。然而各实验室的政策并不一致：xAI 接受最宽泛的用途，OpenAI 和 Google 主要对涉密工作设限，而 Anthropic 坚守两条红线（不用于缺乏人类监督的完全自主武器，不用于对公民的大规模监控）。由于 Anthropic 拒绝取消这两项限制，美国政府将其列为“供应链风险”（这一标签通常只用于外国对手），并着手把它的模型从国防系统中撤出；紧接着，OpenAI 签署了一项覆盖涉密环境的协议，同时声称保留了类似的禁令。随后，加利福尼亚北区的一位联邦法官批准了禁制令，继而在2026年8月27日作出实体判决，认定政府将 Anthropic 列入黑名单的做法违法，并认为此举属于报复（这一诉讼针对的是范围宽泛的联邦合同禁令）。2026年9月25日，在另一起独立的诉讼中，华盛顿特区联邦巡回上诉法院却以2票对1票，认可了五角大楼将 Anthropic 认定为“供应链风险”的做法：因此，Claude 仍被排除在国防部及其分包商的系统之外。Anthropic 表示正在研究救济途径；截至2026年9月30日，这场诉讼仍在进行之中。抛开其间的种种波折不谈，这场争端凝结了一个将超越个案本身的问题：军事 AI 的界限究竟该由谁来划定，是法律和民选政府，还是设计这些模型的私营企业所制定的使用章程？
22.2致命性自主武器
22.3责任、升级与军备竞赛
22.4走向国际治理？
本章要点（第22章）
- 所有大国都把 AI 视为事关军事优势的关键筹码（情报、网络、后勤、辅助决策、无人机），国家与实验室之间纷纷签订合同。
- 致命性自主武器提出了人类在杀伤决策中处于什么位置的问题（回路“之内”“之上”还是“之外”）；此外还存在法律真空，以及该由谁来划定界限（法律还是供应商）的争论。
- 三大风险：责任的稀释、速度带来的升级，以及军备竞赛。
- 联合国（日内瓦）正在尝试建立国际治理，但受阻于自主武器的定义和竞赛的逻辑。这是一项紧迫而悬而未决的课题；2026年9月通过了不具约束力的最终报告，关于谈判授权的决定预计在2026年11月作出。
第V部分至此结束，这一部分走遍了被 AI 改变的现实世界各大领域。第VI部分是本课程的最后一部分，将上升到那些终极问题：哲学的、关乎生存的和政治的。