输出承诺问题：为什么流式自我纠正比原始错误更损害用户信任

用户向你的智能体提问。Token 开始流式输出。写到第三句时，模型写道“实际上，让我重新考虑一下——”并转向一个不同的答案。修改后的答案更出色。用户却关闭了标签页。

这就是输出承诺问题（Output Commitment Problem），它是已发布 AI 产品中被低估得最严重的 UX 失败案例之一。工程师思维将自我修正视为一项特性——模型注意到了自己的错误，这意味着系统正按预期运行。而用户感知思维则将其视为一场灾难——产品现场演示了其最初自信的断言是错误的。这两种解读都是正确的，且它们本身无法调和。

核心的不对称性在于，流式传输让思考过程变得清晰可见，而清晰的思考就是可审计的思考。一个静默地产生幻觉然后给出简洁最终答案的模型看起来很专业。而同一个模型，如果流式输出每一个不成熟的想法，看起来就像是在胡言乱语。答案的质量是相同的，但感知却截然不同。

用户锚定的是第一句话，而非最后一句话

在这里，“首因效应”（Primacy Effect）并非比喻。最近的一系列研究表明，LLM 本身在评估候选选项时也会表现出首因效应，更倾向于那些将正面形容词列在前面的选项。用户对模型输出的态度也是如此。流式响应的开头几句话设定了一个锚点，影响了后续的所有内容。

当开头的一句话被证明是错误的并被修正时，两件事会同时发生。首先，读者的工作记忆中现在有了两个相互竞争的断言，必须分辨哪个才是“真实”答案。其次，读者会根据“系统竟然需要修正”这一事实，更新他们对系统可靠性的先验认知。第二次更新比第一次更持久。用户记住“这个工具自相矛盾”的时间，会比记住具体哪个断言是正确的时间更长。

这就是为什么事后正确（Post-hoc correctness）并不是一种辩护。“但最终答案是对的”这种说法假设用户是用全新的心态去阅读最终答案。事实并非如此。他们在阅读时，首因锚点依然活跃，还带着一种新产生的怀疑，认为模型的自信度并没有经过校准。在一段明显经过修正的回复末尾表现正确，并不等同于真正的正确。

关于 AI 辅助决策的研究已经证实了这一点：用户遇到错误和正确预测的顺序会显著影响他们对系统整体准确性的感知。一个准确率为 95% 但先给出一个明显错误预测的系统，其感知准确度低于一个准确率为 85% 但开头干脆利落的系统。数学计算并不重要，顺序才重要。

流式传输并非免费——它是一种 UX 承诺

团队之所以采用流式传输，首要原因是为了降低延迟。首个 Token 的响应时间（Time-to-first-token）是一个真实的指标，等待 8 秒才看到缓冲完的响应会让人觉得产品坏了，而 8 秒的流式文本输出则不会。这是实实在在的。但团队往往忽略了流式传输也包含一个隐含的承诺：用户看到的每一个 Token，都是模型认可并负责的。

一旦你做出了这个承诺，中途的修正就会破坏它。用户对流式传输的心理模型是“AI 正在打出答案”，而不是“AI 正在大声思考，而答案在最下面某处”。当你的产品说出“实际上，让我重新考虑一下”的那一刻，你就暴露了这两者从头到尾就是两回事，而用户现在必须透过这个滤镜去重新审视你刚刚告诉他们的一切。

陷阱在于，随着模型能力的提升，这个问题往往会变得更糟，而不是更好。更强大的模型更有可能发现自己的错误；更强大的模型会产生更长、更复杂的输出，从而为流式中途修正提供了更多的空间。而且，更强大的模型往往通过 RLHF 固化了自我修正模式，因此修正行为并非偶然，而是一种训练出来的反射。你得到了一个能捕捉更多自身错误的模型，但其 UX 却以最具破坏性的方式展示了这些纠错过程。

先规划，后承诺

架构上的解决方法是将流式传输混为一谈的两个阶段分开：一个是模型可能进行自我修正的“探索阶段”，另一个是产生面向用户输出的“承诺阶段”。在探索阶段，模型可以做任何它需要做的事——起草、重新考虑、转向、重试。在承诺阶段，流式传输给用户的文本应该是系统准备好负责的内容。

具体操作如下：

• 大声规划，静默承诺，然后流式输出。 模型在第一遍生成一个计划或大纲。该计划不向用户展示（或者展示在一个界限清晰的“思考”区域——见下文）。一旦计划确定，模型就会生成最终答案，这就是流式输出的内容。用户看到的是打字动画，但内容不再是探索性的。
• 先生成再验证，而非边生成边修正。 使用独立的验证步骤在草案展示前对其进行检查。如果验证失败，系统在开始流式传输前重新生成。用户永远不会看到失败的草案。
• 在正确性可检查的情况下使用受限生成。 对于结构化输出（JSON、函数调用、引用），从一开始就将解码限制在有效输出范围内，而不是让模型随意发挥然后再纠偏。结构化输出的纠偏对下游用户来说几乎总是显而易见的。

这种做法的代价是首个 Token 的响应时间。你是在用延迟换取承诺。在实践中，这种权衡通常是值得的：晚到 2 秒但稳定的响应所带来的感知质量，优于立即开始但明显摇摆不定的响应。这是一个基于经验的断言，应该在你的产品中进行衡量，但先验结论应该是：承诺值得这几秒钟的等待。

优化界面的分类法

加载中…