全参数 vs LoRA:实测对决
2026年,如果你要微调一个模型,你面临"二选一":
- 全参数微调(Full Fine-tuning): 修改模型的所有参数(7B模型=70亿个参数)。精度最高,但成本最高(需要多张A100/H100 GPU)。
- LoRA(Low-Rank Adaptation): 只训练"新增参数"(约0.1%-1%),原始参数冻结。成本低(单张RTX 4090即可),但精度略低于全参数微调。
到底选哪个? 我们在Qwen 3.0 7B上,用同一个微调数据集(5000条客服对话),做了对比实验。
实测结果
| 指标 | 全参数微调 | LoRA (rank=16) | LoRA (rank=64) |
|---|---|---|---|
| 训练GPU | 8x A100 | 1x RTX 4090 | 1x RTX 4090 |
| 训练时间 | 2小时 | 1.5小时 | 3小时 |
| 训练成本 | 约$50 | 约$0.5 | 约$1 |
| 显存占用 | 56 GB | 16 GB | 22 GB |
| 准确率 | 88.5% | 87.5% | 87.9% |
| 推理速度 | 1x | 1x | 1x |
LoRA rank=16:准确率比全参数微调低1%,但训练成本低100倍。
LoRA rank=64:准确率比全参数微调低0.6%,但训练成本低50倍。
什么时候该选全参数微调?
场景一:你需要在"复杂任务"上追求极致精度。 如果你的微调任务是"代码生成"、“多步推理”、“数学证明”——这些任务对精度要求极高,1%的精度损失可能意味着"代码无法运行"或"推理错误"。这时,全参数微调值得投入。
场景二:你的微调数据量很大(10万+)。 LoRA的"学习容量"有限——它只能学习"有限的新知识"。如果微调数据量很大(10万+),LoRA的"学习容量"可能不够,全参数微调能学到更多。
场景三:你需要在"新领域"中大幅改变模型行为。 如果你的微调任务是从"通用对话"到"医学诊断"(领域跨度极大),LoRA的"学习能力"可能不够。全参数微调可以更"彻底"地改变模型行为。
什么时候该选LoRA?
场景一:你的微调数据量不大(500-5000条)。 LoRA在小数据集上表现极好——它不容易"过拟合"。全参数微调在小数据集上容易"过拟合"(模型"记住"了训练数据,但泛化能力差)。
场景二:你的预算有限。 LoRA的训练成本极低——单张消费级GPU(RTX 4090)即可。全参数微调需要多张A100/H100。如果预算有限,LoRA是"唯一选择"。
场景三:你需要快速迭代。 LoRA训练快——1-3小时完成一次微调。你可以快速尝试不同数据、不同超参数。全参数微调慢——可能需要数小时到数天。快速迭代,是LoRA的"隐藏优势"。
场景四:你需要保存多个微调版本。 LoRA的"适配器"(Adapter)只有几十MB,你可以保存100个LoRA适配器,随时切换。全参数微调每个版本都是完整的模型(14GB),保存100个版本需要1.4TB。
2026年的"最佳实践":先用LoRA试,再决定要不要全参数
推荐的微调流程:
- 先用LoRA(rank=16)快速微调,评估效果
- 如果LoRA精度已满足需求,直接上线(省钱省时)
- 如果LoRA精度不满足需求,尝试LoRA(rank=64)
- 如果LoRA(rank=64)仍不满足需求,且精度提升>1%对业务有意义,再投入全参数微调
大多数场景(80%+),LoRA已经足够。 全参数微调是"最后的手段",不是"第一选择"。
结语
全参数微调和LoRA,不是"谁更好"的问题,而是"谁更适合"的问题。2026年,LoRA是"性价比之王"——在大多数场景中,精度损失<1%,但成本低100倍。
除非你明确知道"我需要那1%的精度",否则从LoRA开始。 这是2026年微调领域最"务实"的建议。