Page 10
12 articles那个让你的故障面成倍增加的供应商故障转移方案
增加备用 LLM 供应商并不能让你的系统实现冗余。它会让维护成本翻倍 —— 如果你跳过了后续的提示词工程工作，系统还会变得更加脆弱。
你为人类设置的速率限制，AI 智能体三秒钟就会让其饱和
为人类节奏流量校准的速率限制，在智能体首次将规划循环指向端点时就会崩溃。应将限制视为一种拆分契约 —— 吞吐量预算加上滥用上限 —— 并基于租户和工作负载类别进行挂钩。
智能体安排的无人继承的周期性任务
当一个智能体启动了一项周期性任务然后离去，该计划的寿命将超过其所有者 —— 孤儿率会在悄无声息中累积，直到有人进行审计。
自相矛盾的流式响应
流式 LLM 会显现用户视作最终答案的部分推理过程。本文探讨为何单次响应内的自相矛盾会破坏 UX 和评估，并介绍了四种重新引入提交边界的模式。
那个因为模型拒绝处理难题而提升的成功指标
模型升级后任务完成率的提升，可能意味着智能体变得更强了 —— 也可能意味着它不再尝试处理难题。请分解你的成功指标，否则流失率将让你付出代价。
那些你的真实用户永远不会表现出的合成评估
由受测模型的“兄弟模型”生成的合成评估会在用户行为发生偏移时虚增评分。本文探讨了为什么生成器-判别器坍塌会掩盖质量退化，以及如何通过野外评估（wild-eval）架构来捕捉这些问题。
那个直到触发时你才察觉的 Token 预算
提供商的 API 会暴露每分钟速率限制响应头，但绝不会透露你的集群实际上需要依此规划的每月上限 —— 这导致消费者必须在第 26 天 429 错误到来之前，自行构建计量器、层级抽象和资源饥饿规则。
你的 Agent 悄然适应了的那次工具版本升级
Agent 会悄无声息地消化工具的破坏性变更，因为它们对结构变化的包容性掩盖了原本能被严格客户端捕捉到的信号。本文介绍了如何让这些脆弱性重新显现出来的模式。
不可信的 Trace Replay：为什么你的新模型评估在撒谎
Trace replay 在一个已不存在的上下文中验证 LLM 升级。本文将揭示为什么那些绿色的评估指标在撒谎，以及在成本与信号的曲线上，哪些验证原语分别适用于哪个阶段。
止于供应商边界的链路追踪
你的分布式链路追踪往往在推理 API 的边缘中断。本文将介绍如何对流式数据块、请求 ID 和供应商侧信道进行插桩，从而找回流水线中最昂贵的分钟级性能损耗。
当你的 RAG 流读取时发生的 Wiki 中途编辑问题
当你的 RAG 摄入任务在作者编辑中途运行时，索引可能会捕获一个在 Wiki 中从未真实存在的状态。本文将探讨为什么基于轮询的流水线在大规模场景下会产生脏读，以及如何通过 CDC、版本锁定和写入静默模式来解决这些问题。
为什么你的智能体在开发中表现完美，在生产中却状况百出
稀疏的开发测试数据隐藏了生产环境实际会触发的各种行为。在你的智能体面对具有生产级基数和歧义性的数据运行之前，你通过的测试验证的只是一个虚假的世界。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
