1 篇博文 含有标签「llm-consistency」

你的文档六个月前看起来没问题，今天单独看依然没问题。但这周一位用户提交了一个 bug：开发者文档的两个页面对同一个配置项给出了相反的建议。一个页面说生产环境应将 max_retries 设为 3；另一个页面说保持默认值 0 即可。两者都是 AI 生成的，两者听起来都很权威。一个反映的是你们系统在一月份的实际行为，另一个反映的是 AI 工具在六月用略有不同的提示词所做的解读。没有人发现，因为没有人在整体上审视这个语料库。

这就是 AI 内容漂移。它不是幻觉问题——AI 在生成时是准确的。漂移发生在两次生成之间的间隙里。