一个让AI投资者失眠的曲线

2026年7月,如果你问AI实验室的CTO们"最大的焦虑是什么",90%的人会回答同一个词:Scaling Laws。不是"Scaling Laws是否有效"——它们仍然有效——而是"Scaling Laws的边际收益递减速度,比所有人预期的都快"。

GPT-4的训练成本约1亿美元,GPT-5约10亿美元,如果GPT-6按同样的Scaling曲线,训练成本将超过100亿美元。但性能提升呢?GPT-4到GPT-5的提升约30-40%(在某些基准上),GPT-5到GPT-6的预期提升可能只有10-15%。投入10倍的钱,换取10%的性能提升——这不是商业,这是信仰。

金句:Scaling Laws是AI行业的"石油"——它推动了AI的爆发,但也正在耗尽。当算力投入翻倍只能换来微弱的性能提升时,AGI的"算力悬崖"就到了。

为什么Scaling Laws在"减速"?

数据瓶颈:Scaling Laws的前提是"更多的数据、更大的模型、更强的性能"。但高质量的训练数据正在"耗尽"。2026年,互联网上所有公开的文本数据已经被AI模型"吃"完了。合成数据(AI生成的数据用来训练AI)被寄予厚望,但2026年的研究表明:合成数据训练的模型,性能提升有限,且容易出现"模型崩溃"——模型在合成数据上反复训练后,会逐渐"遗忘"真实世界的知识。

架构瓶颈:Transformer架构已经接近"天花板"。更大的模型(>10万亿参数)在训练稳定性、推理效率、内存占用上遇到了巨大挑战。2026年展开的"超越Transformer"的研究——状态空间模型(SSM)、线性注意力、混合架构——都还处于早期阶段,远未成熟。

物理瓶颈:训练一个1000亿美元级别的大模型,需要一个"核电站级别的电力供应"和"一个城市级别的散热系统"。这不仅是成本问题,更是物理和环保问题。2026年,微软和OpenAI的"星际之门"(Stargate)超级计算机项目,单是电力需求就达到了5GW——相当于一个大型核电站的发电量。

三条"绕开悬崖"的路径

路径一:推理时计算(Inference-Time Compute)。 2026年最热门的AI研究趋势之一。不是让模型在训练时"更大",而是让模型在推理时"思考更久"。OpenAI的o3系列和DeepSeek的R1系列证明了:通过"推理时计算"(chain-of-thought、tree-of-thought、self-consistency),一个较小的模型可以达到接近"大10倍"模型的性能。这可能是"绕开Scaling Laws悬崖"最有希望的路径。

路径二:高效架构。 Mamba、RWKV、Jamba等状态空间模型(SSM)在长序列处理上展现了比Transformer高10倍的效率。如果SSM能在通用能力上接近Transformer,AI的训练成本将大幅下降。

路径三:数据效率。 人类从少量样本中就能学习,GPT-5需要万亿token。Yann LeCun的"世界模型"路线,试图让AI像人类一样"从感知中学习"而不是"从文本中学习"。如果这个路线走通,AI的数据效率将提升数个数量级。

金句:Scaling Laws不是"失效"了,而是"变贵"了。AGI的瓶颈不再是"能不能做",而是"做不做得起"。

结论:AGI的"算力悬崖"是好事

AGI的"算力悬崖"是坏事——因为它意味着靠"堆算力"的路径不可持续。但也是好事——因为它"倒逼"行业寻找更高效的AI架构和训练方法。Scaling Laws的"红利期"可能只有3-5年了,但AI的"后Scaling时代"可能更精彩。

真正的AGI,不会来自"更大的模型",而会来自"更聪明的架构"。 2026年,AI行业正在从"暴力美学"走向"精巧设计"——这可能是AGI之路上最重要的一次范式转变。