不同大模型微调方法如何比较？

核心回答

微调方法可以先按“更新哪些参数”比较：全参数微调更新整个模型；部分层微调冻结其余层；LoRA、Adapter、Prompt/Prefix Tuning等PEFT方法只训练少量新增参数。QLoRA进一步用低比特存储冻结基座，并训练LoRA。选择时同时考虑任务难度、数据质量、训练显存和上线方式，不能认为全参数必然最好或参数少就不需要计算基座。

还要分清维度：SFT、DPO等描述训练数据和目标，LoRA描述参数更新方式，因此可以组合使用，例如LoRA做SFT，而不是互相排斥的选项。

几种方法如何改变模型

全参数/部分层微调直接调整原有权重，表达自由度较大，但需要相应梯度和优化器状态，检查点及多任务维护成本较高。数据不足或步长不合适可能过拟合、损害通用能力；只训练部分层也不是对所有任务都合适。

**LoRA**冻结基座，用低秩增量表示权重更新：对d×k的矩阵，新增参数约r(d+k)，而非dk。它便于保存和切换任务Adapter；在适用精度与实现下可合并增量到权重，推理不再需要独立LoRA分支。秩、插入位置与缩放会影响适配能力。

**QLoRA**在LoRA基础上量化存储冻结权重，进一步降低基座占用。原论文区分4bit存储与较高精度计算，并非所有运算和梯度都变成4bit；仍需激活、Adapter、优化器状态及反量化开销。

Adapter在网络中插入小型可训练模块，保留基座共享和任务切换能力；通常增加额外计算路径，不能像线性的LoRA增量一样直接合成一个原权重矩阵。

Prompt/Prefix Tuning学习连续提示或各层的前缀状态，冻结基座。训练参数较少，但会引入相应的上下文或注意力开销，效果取决于模型规模、任务与初始化；它们与手工写自然语言提示不同。

一个参数量算例

对4096×4096的线性层，原权重有16,777,216个参数。若LoRA秩r=8，A为8×4096、B为4096×8，合计65,536个参数，是原矩阵的1/256。这个比例只针对一个适配矩阵，不代表整个模型可训练比例或训练显存同样缩小256倍。

如何选并验证

先建立基座效果和资源基线。资源有限、需要多任务切换时可从LoRA起步；基座本体占用过大时评估QLoRA；若高质量数据充分且PEFT持续受限，再对照全参数或更大适配范围。不要只按数据条数决定方法。

在相同数据划分和合理预算下对比任务正确性、格式、通用能力回归、峰值显存和训练时间，最后检查部署时的基座版本、模板、Adapter与量化兼容性。

对应教程

30-模型训练原理与高效微调：理解冻结权重仍参与前向、LoRA训练状态与QLoRA显存取舍。

参考资料

国内：zero2Agent：训练、数据与模型部署：从可训练范围、任务切换和部署负担比较微调方法。
国内：wdndev：高效微调方法总结：借鉴 Prompt、Prefix、Adapter 和 LoRA 的注入位置，解释正文中不同 PEFT 方法怎样改变模型及其可训练参数。
国内：WeThinkIn：后训练：微调与对齐：参考参数更新方式、SFT 目标与后训练阶段的区分，说明正文中 LoRA 和 SFT、DPO 能组合使用的原因。
国外：Hu等 / Microsoft：LoRA：依据冻结基座、低秩更新与合并部署的说明，比较正文中 LoRA 的训练开销、部署方式与多任务使用限制。
国外：Dettmers等 / University of Washington等：QLoRA：参考低比特存储、较高精度计算与适配器梯度的分工，说明正文中 QLoRA 并非把所有计算和梯度都变成 4bit。