三个挑战,三座大山

想象你是一个AI。你读过互联网上所有的文字,你能写诗、写代码、回答法律问题。但有一件事你不会:你分不清"把一个杯子推下桌子,它会掉到地上摔碎"和"把一个杯子推下桌子,它会飞到天花板上"——因为你在文本中看到了这两种描述,你无法判断哪个符合物理现实。

这就是AGI面临的"世界模型"挑战。而它只是AGI的"三座大山"之一。

金句:当前AI最像什么?一个读了世界上所有书但从未见过现实世界的天才——博学,但不懂物理。

第一座大山:世界模型

问题: AI可以生成逼真的视频,但它不理解视频中的物体为什么会那样运动。Sora可以生成一个篮球弹跳的视频,但它不理解"弹跳"的物理原理——它只是在模仿训练数据中篮球弹跳的视觉模式。

为什么重要: 没有世界模型,AI就无法进行真正的"规划"——预测行动的后果。人类在行动之前,大脑中会模拟"如果我这样做,会发生什么"——这就是我们的世界模型在工作。AI缺少这个能力。

2026年的进展: DeepMind的Genie 2和OpenAI的Sora展示了"视频生成器"作为世界模型的潜力——它们可以生成逼真的、物理上一致的世界模拟。但问题是,这些模型仍然会产生"物理幻觉"——物体突然消失、重力方向改变等。2026年,世界模型研究正在从"视频生成"转向"潜在空间中的世界状态预测"——在更抽象的空间中建模物理规律,而不是在像素空间中。

第二座大山:因果推理

问题: AI可以识别"公鸡打鸣"和"太阳升起"之间的相关性,但它不知道谁导致了谁。LLM擅长统计相关性,但缺乏因果推理能力。

为什么重要: 没有因果推理,AI就无法回答"如果…会怎样?"(Counterfactual)的问题。一个没有因果推理的医疗AI,会建议你"吃更多的冰淇淋"来治疗晒伤——因为它发现了"冰淇淋销量"和"晒伤发生"之间的相关性,但不理解是"夏天"同时导致了这两者。

2026年的进展: Judea Pearl的因果推理框架(do-calculus、结构因果模型)正在被尝试整合进AI系统。2026年,出现了一些将因果图与神经网络结合的混合模型——在特定领域(如医疗诊断、经济预测)中实现了因果推理能力。但通用因果推理仍然是未解决的难题。

第三座大山:持续学习

问题: 当前AI模型是"一次性"的——训练完成后,参数就固定了。如果世界变了(如疫情改变了消费习惯),模型需要重新训练(从零开始或微调)。它们不能像人类一样"持续学习"——不断更新知识而不遗忘旧知识。

为什么重要: AGI必须能适应不断变化的世界。一个只能在2023年数据上工作的AI,在2026年已经过时了。但"持续学习"面临一个根本性的困境:灾难性遗忘(Catastrophic Forgetting)——学习新知识时,旧知识会被覆盖。

2026年的进展: 2026年,持续学习的主要方向包括:弹性权重巩固(EWC)、渐进式神经网络(Progressive Neural Networks)、记忆重放(Memory Replay)等。但这些方法在"大模型"尺度上仍然难以高效实现。LLM的"上下文窗口"本质上是一种"伪持续学习"——它可以在上下文中学习新信息,但不会真正更新模型参数。

结论:三座大山,一个共同根源

世界模型、因果推理和持续学习——这三座大山的共同根源是:当前AI从数据中学习相关性,而不是从经验中学习因果。 翻过这三座大山,需要的不只是更大的模型和更多的数据,而是全新的学习范式。

在这场攀登中,2026年我们可能还站在山脚下。但我们已经看到了山的样子——而这本身就是巨大的进步。