Page 24
12 articles改变答案的重试：针对非确定性 LLM 调用的幂等键
重试超时的 LLM 调用并不会重新获取相同的答案 —— 而是会采样一个新的。本文将探讨为什么针对非确定性后端的超时重试会失效，以及幂等键如何让它重新变得安全。
先返回 200 然后失败的流式响应：中途错误如何破坏你的 SLO
流式端点在第一个 token 刷出的瞬间就会确认 200 状态，因此之后发生的每一个失败都会躲过负载均衡器、重试中间件和 SLO 仪表板。本文将介绍如何让响应体承担起 HTTP 头部已无法传达的判定结论。
具有两种延迟的 AI 功能：你衡量的是一种，用户感知的是另一种
流式 AI 功能具有两种分化的延迟 —— 首字时间 (TTFT) 和完成时间 —— 而大多数团队只测量了用户感知最不明显的那一个。本文将介绍如何拆分指标和 SLO。
当“智能体能做 X 吗？”演变为交付承诺时
当“运行成功一次”的说法经过每日站会、路线图和销售电话后，AI 能力探针会悄然演变为路线图承诺。本文介绍了一套能力测试产物和晋级关卡，旨在防止演示原型在不成熟时就变成合同条款。
Agent 调试器没有断点：为什么追踪优先工作流正在取代单步执行
当输入具有随机性时，单步调试就会失效。替代方案是基于追踪和重放的工作流，它具有四种功能——时间轴拖动、分支对比、扰动重放以及每一步的意图恢复——这些功能与 IDE 的调试工具栏完全不同。
拒绝“大声失败”的 Agent：过度补偿的回退机制如何掩盖生产环境的质量回退
生产环境中的 Agent 积累了大量的重试、回退和修复逻辑，这些逻辑会悄悄掩盖质量回退，直到流量评估指标发生偏移，而团队却无法追踪根本原因。
没人做的 AI 无障碍审计
流式 AI 界面通常无法适配屏幕阅读器和键盘用户。本文将介绍无障碍审计的流程、为什么它在 2026 年至关重要，以及只需半天即可交付的修复方案。
没人写的 AI 功能下线指南
大多数 AI 功能下线仅停留在端点层面，却遗留了提示词（prompt）、评测员（judge）、回归集和故障记忆。这是一份按资产分类的指南，教你如何下线 AI 功能，避免在两个季度后出现孤立配置、幽灵评测运行以及丢失的组织知识。
自研还是购买 AI 网关：锁定你未来 18 个月的关键决策
大多数团队在第一周凭直觉决定是对 AI 网关进行自研还是购买，然后在第九个月感到后悔。这是一个针对在 18 个月后依然至关重要的决策框架。
AI 网关：那个没人点名的单点故障 (SPOF)
位于 LLM 供应商前端的这一层薄抽象，已成为你发布的每一项 AI 功能的承重控制平面。本文探讨了为什么它的爆炸半径现在已经超过了任何供应商的中断风险，以及随之而来的 SRE 规范。
AI 赔偿缺口：当模型出错且没有人的合同能为你提供保障时
企业级 AI 产品处于一个三环责任链中，每一层都假设别人读过那些细则条款。本文将探讨赔偿缺口是如何形成的，为什么版权盾（Copyright Shield）并不涵盖幻觉问题，以及在第一起索赔发生前，应该通过何种约束机制来弥合这一缺口。
“AI 让我这么做的”辩护：当代码审查悄然停止提出异议
Agent 编写的 PR 落地后的缺陷率高出 1.7 倍，而审查者往往会向模型那自信的措辞妥协。本文探讨了如何在事故率曲线飙升之前，通过结构性修复让高级工程师坚守合并路径。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
