一句咒语的价值
2022年，Google研究员在论文中提出了一句"魔法咒语"：“Let’s think step by step。"（让我们一步步思考。）在论文中，仅仅在Prompt末尾加上这句话，让GPT-3在GSM8K上的得分从17.7%跃升至58.3%。
一句话，让推理能力提升230%。 这是AI历史上性价比最高的"技术突破”——它不需要训练新模型，不需要修改架构，只需要在Prompt中加一句话。
CoT为什么有效
CoT有效的原因很深刻：大语言模型是一个"一步到位"的生成器，而复杂推理需要"多步迭代"。
当你问"一个苹果2元，买了3个，付了10元，找零多少？"——如果没有CoT，模型可能直接输出"4元"或"6元"或"7元"，因为它试图在一个生成步骤中完成计算。实际的概率分布可能在多个可能答案之间"摇摆"。
有了CoT（“先算总价2×3=6元，再算找零10-6=4元”），模型将推理过程分解为多个子步骤，每个子步骤的概率分布都很集中（2×3几乎一定是6），从而大幅提高了最终答案的准确率。
CoT的本质是：把一个"高不确定性"的生成任务，分解为多个"低不确定性"的子任务。
2026年CoT的四种形态
形态一：Zero-shot CoT（“Let’s think step by step”）。 最简单、最通用的CoT形式。不需要任何示例，只需在Prompt中加上"让我们一步步思考"。在简单到中等难度的推理任务上效果显著，但在复杂任务上不够。
形态二：Few-shot CoT（带示例的思维链）。 在Prompt中提供2-3个完整的推理示例，展示"问题→推理过程→答案"的完整链条。效果优于Zero-shot CoT，但需要为每个任务类型设计示例，泛化性差。
形态三：Auto-CoT（自动生成思维链）。 让模型自己生成推理示例，然后利用这些示例进行Few-shot推理。2026年的主流做法是：先用一个简单的Zero-shot CoT让模型自己生成推理过程，然后选择一个高质量的推理示例作为Few-shot模板。
形态四：Tree-of-Thought / Graph-of-Thought（多路径推理）。 2026年的最新范式。不再沿单一推理路径前进，而是同时探索多条推理路径，比较、回溯、合并，最终选择最优路径。GPT-5 Extended Thinking和Claude 4 Opus的Extended Thinking模式本质上就是Tree-of-Thought的实现。
避坑指南
坑一：CoT对简单任务无效甚至有害。 “1+1等于几？“加上"Let’s think step by step"后，模型可能输出"首先，我们有一个1，再加上一个1，两个1在一起就是2。所以答案是2。"——浪费token和时间，对精度无帮助。
坑二：CoT不能解决"知识不足"问题。 如果模型不知道"巴黎是法国的首都”，CoT不能帮它"推理"出来。CoT增强的是推理能力，不是知识储备。
坑三：CoT的推理可能"合理但错误”。 模型可能输出一个逻辑完美的推理过程，但因为前提错误而导致最终答案错误。CoT让推理过程"透明"了，但没有让推理过程"正确"了。
2026年最佳实践
对于推理任务，使用分层CoT策略：
- 先用Zero-shot CoT看模型能否独立完成
- 如果失败，加入一个Few-shot示例
- 如果仍然失败，切换到GPT-5或Claude 4的Extended Thinking模式
- 对于需要最优解的任务（如数学竞赛），使用Tree-of-Thought
CoT不是银弹，但它是最接近银弹的Prompt技巧。 在2026年，如果你只学一个Prompt技巧，就学CoT。