Page 54
12 articles知识时效路由：在生产 AI 中将查询匹配到正确的时间层
生产 AI 系统同时承载四个不同新鲜度层级的知识——参数化权重、RAG 索引、会话上下文和实时检索。将查询路由到错误的层级会产生自信但错误的答案，且没有任何可见的错误信号。
自信的幻觉制造者：生产级 LLM 知识边界信号的运行时模式
LLM 之所以自信地产生幻觉，是因为 RLHF 训练让它们听起来笃定无疑。本文介绍如何检测知识边界、按置信度路由，并构建能在生产环境中将不确定性转化为可操作信号的降级链架构。
为什么你的 AI 听起来不对劲，即使技术上完全正确
技术正确性与交流适当性是两个正交的失效模式。语域不匹配是一个隐性的用户流失驱动因素，它藏在模糊的用户反馈背后，几乎不会出现在你的评估套件中。
LLM 作为编译器模式：分离计划生成与执行
引导 LLM 输出由确定性引擎运行的结构化执行计划——而不是让它逐步行动——能以八分之一的成本提供高出 50% 的准确率。本文将探讨该模式何时值得这些额外开销，以及如何在生产环境中实现它。
LLM 分类器的生产实践：为什么准确率是错误的指标
准确率本身并不能预测基于 LLM 的分类器能否在生产环境中存活。真正的约束在于校准性、分类别指标、延迟 SLO，以及揭示生产就绪性的测试模式。
模型路由中的 20% 问题：当成本优化产生二等用户时
经过成本优化的 LLM 路由正悄然在特定用户群体间造成质量差距。了解为什么那 20% 被升级处理的查询并非随机分布，如何按用户分层审计路由层级，以及如何设计带有公平性约束的策略。
组织架构问题：为什么 AI 功能会死在团队之间
42% 的 AI 项目失败并非因为模型不好用，而是因为没有一个团队从头到尾负责这个功能。本文深入分析了扼杀 AI 功能的问责空白，以及真正有效的所有权模型。
输出耦合陷阱：为什么多智能体系统在接口边界处会发生静默失败
下游智能体静默地依赖于上游智能体的精确输出格式。当格式发生偏移时，故障看起来就像是模型错误。本文将介绍如何构建智能体接口，在格式依赖破坏你的流水线之前将其显式化。
一致性鸿沟：为什么并行 LLM 调用会相互矛盾以及如何修复它
当智能体针对同一实体发起多个并发 LLM 调用时，它们经常会得出不兼容的结论。本文介绍了防止此类问题的架构模式——实体规范化、缓存预热、基于证据的对账以及 Schema 强制执行。
权限感知检索：企业 RAG 的访问控制必须在向量层
大多数企业 RAG 系统在应用层执行访问控制——结果就是机密文档不断泄露给无权查看的用户。以下是安全机制必须下沉至检索层本身的原因。
人设锁定问题：长期 AI 会话如何将用户困在自己的模式中
随时间适应用户行为的 AI 系统会形成自我强化的循环，早期偏好逐渐固化为用户无法逃脱的默认行为。本文探讨人设锁定在实践中的表现，以及如何在设计层面加以规避。
系统提示的措辞决定智能体的风险偏好
收益框架与损失框架的提示词在决策边界处会产生可测量的不同智能体行为。本文探讨这对你编写系统提示意味着什么。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
