LoRA微调到底值不值：一份先算账再动手的决策清单

“模型答得不像我们公司的风格""格式总是不对""领域术语老是理解错”——遇到这些问题，很多人第一反应是微调。但 2026 年的经验是：大部分被诊断成”需要微调”的问题，其实不该微调。

微调不是免费的能力提升，它是有明确代价的工程决策。这篇给一份可以先算账的清单。

一、先判断：你的问题属于哪一类

症状	最优解通常是
不知道最新政策、产品信息	RAG，不是微调
格式不稳、输出结构错	提示工程 + 结构化输出约束
术语理解错、行话不认	提示 + 术语表（放上下文），不足再微调
风格不像本行业的口吻	少量示例（few-shot），不足再微调
任务太复杂、单次调用做不好	拆任务 + Agent 流程
延迟高、成本高	蒸馏小模型或换模型，不是 LoRA
需要模型内部形成稳定行为	微调（真正适用）

一个简单判据：**能放进上下文的，就别塞进权重。**知识会变，权重不会。

二、什么情况下微调真的划算

信号一：提示词已经写到极限

如果提示词已经试过三十版，效果仍卡住，且失败模式一致（例如总是漏掉某个固定字段），那说明这不是表达问题。

信号二：同类任务量足够大

微调能让小模型达到大模型在特定任务上的水平。当你有每天上万次调用时，把大模型换成微调后的小模型，成本可能降一个数量级。任务量小时，省下的钱不够付微调的人力成本。

信号三：行为而非知识

“永远先给出结论再解释""遇到不确定就拒答""输出必须是这个固定结构”——这类行为契约最适合微调，因为它需要稳定，而提示词在长上下文里会被稀释。

信号四：有几百条以上的高质量样本

少于 200 条，LoRA 很容易只学会表面格式，或直接过拟合。样本的质量远比数量重要：一条脏样本的破坏力大于十条好样本的建设力。

信号五：有稳定的评测集

没有评测集就微调，等于闭着眼睛调参。至少要有一批能自动判分的测试样本，否则你无法判断这次训练是真的变好还是碰巧。

三、四条路线的成本对照

路线	一次性成本	持续成本	知识更新	上手难度
提示工程	低	每次调用含长提示	即时	低
RAG	中（检索管道）	检索 + 生成	即时	中
LoRA 微调	较高（数据+训练+评测）	推理更便宜	需重训	中高
蒸馏	高（需大模型产出+训练）	最低	需重训	高

注意”一次性成本”里最贵的不是算力，是数据构造与评测。算力可以租，数据只能人来做。

四、最小可行微调流程

如果你决定做，按这个顺序：

第 1 步｜定评测集（先做这个） 抽取 100～200 条真实样本，写清判定标准，能自动打分最好。没有这一步不要开始。

第 2 步｜跑基线 用现有提示词 + 现有模型跑评测集，记录分数。这就是你要超越的门槛，包括成本和延迟。

第 3 步｜构造数据 300～1000 条为起点。每条样本要包含：真实输入（不是编的）、理想输出、边界情况的正确拒绝。掺杂 5%～10% 的”应当拒答”样本，防止模型过度自信。

第 4 步｜LoRA 训练 秩从小开始（如 8～16），学习率保守，训练 1～3 轮。先跑通全流程，再谈调参。

第 5 步｜评测对比 同时看三项：目标任务分数、通用能力是否退化、推理成本变化。通用能力退化（比如不会正常对话了）是常见的隐性损失。

第 6 步｜小流量灰度 线上先切 5%～10% 流量，人工抽检，观察两周。

五、三个高频翻车点

1. 用模型生成的回答当训练数据：会把原模型的错误固化，还会带上它的口癖。至少人工审过核心样本。
2. 只测微调后的模型：没有基线对比，就不知道提升来自哪里。
3. 忘了版本管理：数据版本、训练配置、评测结果必须能追溯到某一次训练，否则出了问题没法回滚。

结论：微调是一把精确但昂贵的刀。用它解决”行为不稳定”，别用它解决”知识不够新”。先跑基线，再谈训练。