你的生产系统运行正常。可用性为 99.9%。延迟处于正常水平。错误率告警为零。然后一个用户提交了一个工单：“最近的摘要变得莫名其妙地偏差。”你调取日志，一切看起来都没问题。你检查模型版本 —— 还是三个月前部署的那个。到底发生了什么变化？
是模型提供商变了。而且是悄无声息地变了。
这就是模型升级陷阱：基础模型在你不知情的情况下发生了变化，而标准的观测基础设施对这种行为偏移（behavioral drift）完全视而不见。等到用户注意到时，性能下降已经持续累积数周了。
标准监控无法察觉的问题
传统的观测指标衡量的是容易获取的数据：延迟、错误率、Token 数量、可用性。这些指标告诉你基础设施是否健康，而不是输出质量是否良好。模型可能返回 200 OK，包含格式良好的 JSON，但其中的答案却有细微的错误，这种情况可能在被人发现前持续数月。
一项追踪 GPT-4 行为随时间变化的研究发现，在 3 月到 6 月之间，它在某些任务上的准确率从 84% 下降到 51% —— 相对下降了 40% —— 而此时所有的系统级指标都显示为绿色。该模型响应迅速、结构严谨，但却言之凿凿地给出了错误答案。
造成这种现象的动态因素值得深入理解：
版本锁定（Version pinning）比看起来要脆弱。 即使你指定了 gpt-4-0613，提供商仍保留出于安全、对齐或功能原因更新模型权重的权利。“稳定（Stable）”并不意味着“冻结（Frozen）”。版本锁定防止了重大的模型切换，但无法防止该版本内部的行为偏移。
静默更新频繁发生。 一项追踪 ChatGPT 行为的研究发现，即使使用相同的 API 参数，相隔数月测得的同一版本标识符也存在统计学上的显著行为差异。你在 1 月调用的模型与你在 4 月调用的模型并不相同，即便 API 参数完全一致。
91% 的生产环境 LLM 在部署后的 90 天内都会经历可衡量的行为偏移。 大多数团队直到用户投诉才会发现。
工程师意料之外的升级破坏系统的三种方式
拒绝模式的改变
当模型提供商为了安全性、有用性或减少过度拒绝而进行微调时，由此产生的行为变化通常是不透明且不对称的。从 GPT-4o 升级到 GPT-4.1 的团队发现，提示词注入（prompt-injection）的防御能力从 94% 下降到了 71% —— 新模型更字面地遵循指令，这使其在大多数任务上能力更强，但也更容易受到注入攻击。一个花费数周验证的安全属性，在一次版本更迭中就化为乌有。
拒绝率的变化也可能走向另一个方向。与之前的版本相比，Claude 3.5 Sonnet 的新版本将分析任务中的拒绝率从 38% 降低到了 14% —— 在某些维度的改进可能意味着在另一些维度的倒退，这取决于你的系统需求。
令人不安的推论是：安全属性不会在模型版本之间自动迁移。孤立地测试新模型是不够的。你必须将其作为一个集成系统，配合你确切的护栏配置、提示词堆栈和输入分布来进行测试。
结构化输出序列化
如果你的应用程序以编程方式解析模型输出，那么模型版本变更就是一个雷区。不同模型版本和提供商之间的 JSON 格式不一致非常常见 —— 比如不一致的空格、换行符、引号、字段顺序，甚至字段命名。一个针对某种模型输出风格优化的解析器，在模型更新序列化同一 Schema 的方式时，可能会悄无声息地开始抛出异常。
关于 LLM 结构化输出基准的研究令人清醒：许多发布的基准测试其错误率之高，足以让模型准确率估算变得不可信。实际的影响是，你的生产环境输出解析可能比你想象的更脆弱，而一次模型更新可能会在一夜之间暴露这种脆弱性。
缓解措施是使用带有 JSON Schema 验证的受限解码（constrained decoding），而不是仅仅依赖提示词指令。Level 3 原生结构化输出 —— 即模型的解码过程受 Schema 约束 —— 可以保证 Schema 的有效性，而与模型在任何给定版本上的指令遵循能力无关。
提示词偏移 (Prompt Drift)
为某个模型版本优化的提示词并不是持久的资产。当提供商更新模型解读系统提示词、处理工具调用序列或权衡指令优先级的方式时，你精心调校的提示词可能会在没有任何外部更改的情况下开始表现不佳。
一个日语客服系统因为一次分词器（tokenizer）更新而崩溃，该更新改变了模型计算 Token 的方式，导致应用程序（其硬编码的 Token 限制与旧行为匹配）悄无声息地截断了重要的上下文。系统仍在运行。日志中看不到这种截断。服务质量却下降了数周。
提示词与模型之间的行为耦合是真实存在的，它在无形中积累了技术债。
余下内容仅对会员开放。
会员可读完整内容 —— 每一个公开发布的观点背后，那些框架、决策与推理的全貌。
- 完整文章，包含未公开存档的部分
- 可落地的工作框架，附带权衡与决策依据
- 新文章抢先看，先于公开发布
随时取消 · 一次订阅，畅读全部