1 篇博文 含有标签「constrained-decoding」

每个上线LLM功能的团队都会在第一周内学到同样的教训：模型最终会返回格式错误的JSON。频率不高——起初大约2%的请求——但足以需要重试逻辑、输出验证器、基于正则表达式的修复器，以及越来越绝望的启发式方法。这种"解析脆弱性税"在模型输出的每个下游消费者中不断累积，将本应简单直接的集成变成了由try/catch块和字符串操作组成的脆弱混乱体。

结构化输出——保证语言模型产生符合特定schema的输出的能力——消除了这整类故障。不是减少，是消除。而其背后的机制——约束解码，被证明是自函数调用以来生产LLM系统中最具影响力的基础设施改进之一。