为什么AI安全讨论正在走向极端化

如果你是AI安全领域的从业者，2026年可能是一个让你身心俱疲的年份。

一方面，有效利他主义（EA）阵营不断发出末日警告，把AI安全讨论硬生生变成了一个宗教话题。另一方面，AI加速主义者则嘲笑这些担忧是「科幻小说看多了」。两拨人隔空对骂，而真正需要被讨论的安全问题——偏见、隐私、权力集中、劳动力冲击——反而没人关心了。

这就是AI安全讨论的现状：极端化、两极分化、越来越像一场意识形态战争，而不是一场技术讨论。

末日论者的三个问题

先说末日论阵营。他们的核心论点可以概括为：超级智能一旦出现，如果它的目标与人类不完全对齐，它就会像人类对待蚂蚁一样对待我们。

这个论点的问题不在于它不可能——它理论上是可能的。问题在于三个地方：

第一，它依赖于一个未被证实的假设：AI能力的指数增长必然会导向超级智能。但我们目前没有任何证据表明，扩大模型规模就能产生自主意识。GPT-5再强大，本质上仍然是一个输入输出机器，没有自我意识，没有欲望，没有目标。

第二，它把「对齐」当成一个二值问题：要么对齐，要么不对齐。但现实中，AI对齐是一个渐进的过程。我们不需要AI完美对齐，只需要它「足够对齐」就够了。就像你不需要你的车完美安全，只需要它足够安全就可以上路。

第三，末日叙事在战略上是有害的。当公众听到「AI会毁灭人类」这种话，他们要么恐慌，要么麻木。两种反应都不利于理性的政策制定。

再说加速主义阵营。他们主张全速推进AI发展，认为安全担忧被夸大了，监管只会阻碍创新。

这个立场的问题更明显：它完全忽略了AI已经在造成的伤害。深度伪造正在摧毁信息生态，算法推荐正在加剧社会撕裂，自动化正在消灭一个又一个行业。这些不是「末日风险」，而是「正在发生的风险」。

加速主义者喜欢说「技术是中性的」。但问题是，AI不是被部署在真空中的。它被部署在一个权力极度不对称、资本极度集中的社会中。在这种环境下，AI不是中性的，它会放大现有的不平等。

AI安全不是一个「安全」或「不安全」的二元问题，而是一个光谱。

在这个光谱上，一端是已经发生的具体伤害——算法歧视、深度伪造、隐私侵犯。另一端是理论上的极端风险——失控的超级智能。中间是各种社会层面的风险——就业冲击、权力集中、信息操纵。

真正理性的AI安全讨论，应该同时关注光谱上的所有点，而不是只盯着最极端的那一端。

2026年，我们需要的不是更多的末日预言，也不是更多的「别挡路」的喊话。我们需要的是承认AI安全问题的复杂性，然后脚踏实地地解决那些正在发生的问题，同时为未来可能出现的风险做好准备。

说到底，AI安全不是一个技术问题，而是一个治理问题。而治理，从来不是靠极端立场来解决的。