一场没有人讨论的军备竞赛
2025年，多家AI公司修改了使用条款，允许其AI技术被用于军事用途。2026年，AI自主无人机、AI目标识别系统、AI网络攻击工具已经在多个冲突地区被实战部署。
“杀手机器人"不再是一个伦理讨论题，它已经是一个现实。
但全球关于"自主武器系统"的讨论，仍然停留在"要不要禁止"的层面。联合国《特定常规武器公约》关于自主武器的谈判已经进行了多年，但进展缓慢——因为拥有AI军事优势的国家，不想放弃这个优势。
观点一：AI武器必须被禁止，这是人类文明的底线
支持禁止AI武器的一方，论据直指道德核心：
第一，让机器决定人类的生死，是对人类尊严的根本否定。 人类生命应该由人类来决策——这是战争伦理的基础。无论一个AI多"智能”，它缺乏对生命价值的理解。对它来说，杀死一个"目标"和删除一个文件，在本质上没有区别。
第二，AI武器会降低战争门槛。 当指挥官不需要承担"送本国士兵去死"的政治代价时，他们更容易发动战争。AI武器让战争变得"清洁"——至少对使用AI武器的一方来说是"清洁"的。但战争从来不是清洁的，只是死亡的账单从本国士兵换成了对方平民。
第三，AI武器的错误是不可接受的。 所有的AI系统都会犯错。一个AI客服犯错，你损失几分钟。一个AI武器犯错，有人失去生命。AI的错误率在客服场景中是可以接受的，在战场上是不可以接受的。
观点二：禁止AI武器是幼稚的，AI武器可以拯救生命
反对禁止的一方，提出了一套完全不同的逻辑：
第一，AI武器可以减少平民伤亡。 人类士兵在高压战场环境中，会因为恐惧、愤怒、疲劳而做出错误判断，导致平民伤亡。AI不会被情绪影响，它可以在毫秒级别内做出更精准的打击决策。AI武器可能比人类士兵更"人道"。
第二，禁止AI武器只会让"坏人"拥有AI武器。 国际公约只能约束"愿意遵守规则的国家"。对于不遵守规则的国家和非国家行为体，禁令是无效的。禁令的结果是：守规矩的国家没有AI武器，不守规矩的国家有AI武器。
第三，AI军备竞赛已经开始了，你无法阻止它。 就像一个世纪前的海军军备竞赛，或半个世纪前的核军备竞赛，AI军备竞赛是一个地缘政治现实。讨论"要不要禁止"不如讨论"怎么管控"。
一个被忽视的问题
双方的辩论忽略了一个关键问题：AI武器化不是未来的问题，是现在的问题。
AI武器已经从实验室走向战场。而国际社会还在讨论"要不要禁止"。这种讨论的节奏，和AI武器化的速度，完全不在一个频道上。
等我们讨论出结果，AI武器可能已经杀死了成千上万的人。
金句
“AI武器化的辩论，和核武器化的辩论有一个本质区别：核武器很难制造，AI武器很容易制造。你不需要铀浓缩，你只需要一个GPU和几行代码。这意味着AI军备竞赛不是大国之间的游戏，它会迅速扩散到所有人。”
我的立场
我反对AI自主武器，但我对"禁止"不抱幻想。我们需要的不是一纸禁令，而是管控框架：AI武器的使用必须有人类监督（“人在回路中”）、AI武器的部署必须有明确的法律责任归属、AI武器的错误必须有问责机制。
道德宣言不能阻止AI武器化，但制度设计可以限制它的伤害。