你的微调模型是一个你需要维护的分支

微调项目的预算会议总是估错了重点。团队估算的是数据流水线、训练运行和评估轮次——一项有着明确终点的一次性投资。随后模型发布，准确率图表节节攀升，然后大家就转向下一个项目了。六个月后，一封邮件寄达：你的适配器（adapter）所绑定的基础模型有了退役日期。你的系统本身没有任何变化，但它的根基全变了。

这是没人算进成本的部分：微调不是一个你已经完成的产品。它是别人代码库的一个分叉（fork），而每一次基础模型的发布都是一次你并未计划的上游变基（rebase）。任何曾在快速更迭的开源项目中维护私有补丁（patches）的人都清楚个中滋味——分叉的创建成本很低，但维护成本极高。

OpenAI 在 2026 年 5 月让这一退役闹钟变得无法忽视，当时它宣布逐步关闭其自助微调平台：新组织立即被拦截，所有客户在 2027 年 1 月前将失去创建新训练任务的能力，而现有微调模型的推理也只能持续到其基础模型退役为止。所给出的理由发人深省——更新的基础模型能非常好地遵循指令和格式，以至于对于微调曾经承担的大部分工作，基于提示词（prompt）的方法现在更便宜且更快速。如果你的差异化策略是建立在别人平台上的微调产物，那么该平台刚刚告诉你了它是如何看待这一产物的价值的。

产物已锚定，时钟在滴答

微调后的模型并非一个独立的资产。它是一个增量（delta）——一组仅相对于特定基础模型的特定快照才有意义的权重调整。这种锚定（pinning）带来的后果，最初的项目计划很少会预见到。

首先，基础模型有着你无法控制的生命周期。Azure 的模型退役政策让这一机制变得显而易见：正式发布的模型版本保证至少提供 12 个月，微调模型分两个阶段退役（先训练，后部署），而客户在退役落地前可能仅能得到 60 天的通知。12 个月听起来很慷慨，直到你意识到一个严肃的微调项目——数据收集、清洗、训练、评估、分阶段推广——在模型处理第一个生产请求之前，就可能吃掉这窗口期的四分之一到二分之一。你可能会花掉该产物保证寿命的三分之一时间来构建它。

其次，增量是无法迁移的。LoRA 适配器（目前主流的参数高效微调技术）是与训练时所针对的精确基础权重绑定的。当基础模型更新或更换为蒸馏版本时，直接应用旧的适配器是不可能的——它所学到的低秩方向（low-rank directions）是在已不复存在的权重坐标系中表达的。诸如 LoRA-X 和 PortLLM 之类的研究项目正在攻克免训练适配器迁移，恰恰是因为业界不断撞上这堵墙，但在目前的生产环境中，诚实的答案是：换了基础模型，就得重新训练。如果原始训练数据没有进行版本控制和保存（这是一个令人担忧的普遍失败），你甚至连重新训练都做不到。

第三，世界在变，而你的权重没变。微调将行为冻结在训练的那一刻。你的用户在变，你的产品在变，你的领域积累了新的词汇，而微调模型重现的是一个每天都在变得更陈旧的数据集的分布。重新训练不仅是由上游退役触发的，它也会由你自身的熵增所触发。

分叉经济学：维护补丁 vs. 紧跟上游

开源维护者在几十年前就解决了这个核算问题，其词汇可以无缝迁移。当你分叉一个项目并维护私有补丁时，每当上游发布新版本，你都会面临经常性成本：要么你将补丁变基（rebase）到新版本上（现在支付合并成本），要么你保持锚定（累积偏差并在以后支付更大的合并成本，同时错失上游的改进和安全修复）。在 Linux 内核或 Kubernetes 中维护大量补丁集的团队拥有专门为此设立的工程职能。打补丁是容易的部分；“维护”才是工作所在。

微调具有相同的结构，但工具更简陋。每一次供应商的发布都会迫使你做出以下三种选择之一：

• 变基（重新微调）：针对新的基础模型重新运行数据流水线、重新训练、重新评估、重新发布。你得再次支付全部训练成本，加上评估成本，再加上发布风险。行业估计显示，基础设施和运营开销在直接训练成本的基础上还要增加 15–30%，一些组织报告称在维护上的支出超过了初始开发支出——这就是典型的补丁维护特征。
• 保持锚定：在老旧的基础模型上继续运行旧的微调模型。你推迟了成本，但基础模型的退役日期不会改变，你与前沿水平的差距会拉大，而且最终被迫的迁移将按照供应商的时间表而非你的计划进行。
• 放弃分叉：转向使用提示词和检索（RAG）的新原生模型。这听起来像是一种失败，直到你对其进行衡量。过去两年的一个公开秘密是，基础模型的进步速度足以吸收微调曾经被购买的大部分理由——输出格式、语气、风格合规性作为差异化因素已基本消失，因为前沿模型现在能直接遵循指令。

理性的选择取决于大多数团队从未计算过的一个数字：微调的残余提升（residual lift）——即在你实际任务的衡量下，微调后的旧模型比带提示词的新模型好多少。注意这个数字随时间的变化。每一次上游发布都会缩小这个差距，因为新的基础模型起步就更接近你的目标行为。一个相对于去年的基础模型能为你带来 15% 准确率提升的微调，相对于今年的模型可能只带来 3%。

与此同时，维护成本保持不变甚至在增长。分叉经济学给出了合并回主干（merge-back）的规则：当残余提升低于维护补丁的年化成本时，并回上游。大多数团队从未进行过这种计算，因为他们从未为此建立过度量体系。

加载中…