Page 5
12 articles你的智能体平台忘了配置的值班轮换
一个四人的 AI 平台团队为一个拥有 200 名日活用户的内部智能体上线，却忘了配置值班轮换 —— 最终以惨痛的代价学习了 SRE 人员配置的计算方法。
自身训练语料库成为泄露途径的 PII 脱敏器
一个基于真实 PII 训练的微调脱敏器，本质上是一个对其训练集中每条受保护记录都拥有读取权限的模型，并部署在任何人都可以查询的 API 之后 —— 而这一事实很少出现在隐私审查中。
你的编程智能体生成的那些人类已经不再阅读的 PR 描述
PR 描述模板在由人类编写且格式承载关键信号时非常有效。而智能体生成的描述消除了差异性，导致审查者产生习惯化心理，使得审查流程悄然绕过了它原本依赖的交付物。
绕过清理器的提示词注入：当智能体通过工具读取恶意指令
输入清理器位于用户和模型之间，但使用工具的智能体还有数十种其他的摄入路径。本文将探讨为什么检索到的文档、网页抓取、MCP 响应以及其他智能体的输出会绕过你的分类器，以及真正的工具感知型防御方案长什么样。
提供商故障转移：在对话中途替换了你安全策略的隐忧
多供应商 LLM 故障转移通常将各厂商视为可互换的，但它们的拒绝阈值、语气和内容边界各不相同。本文将探讨网关如何成为策略控制面，以及会话亲和性和统一审核层究竟解决了什么问题。
供应商配额在你的全球流量从未选中的时区重置
供应商配额按照供应商的时间重置，而不是客户的时间。当周期的临界结束点与你的流量峰值时区重叠时，429 错误看起来就像是随机噪声 —— 而 UTC 仪表板掩盖了背后的真相。
你的产品视图从未呈现的推理 Token
扩展思维在每次调用中都会生成一个推理产物，你的工程师可以看到，但你的支持、PM 和事故处理团队却看不到。这个断层正是客户投诉集中的地方。
你那两个独立的评估指标正不断破坏拒绝校准
将拒绝逻辑拆分为安全性评估和帮助性评估，注定会导致每次模型升级时两者此消彼长。解决方案是针对每个案例采用统一的“正确操作”指标进行评分。
你增加的 Reranker：对召回率的拖累超过了对精准度的提升
离线 nDCG 显示你的交叉编码器 Reranker 提升了四个点。但生产环境的 p99 指标显示这是一次倒退。评估标准从未对截止时间、批处理窗口或超时引起的回退路径进行建模 —— 而这个差距正是精准度提升消失的地方。
擦除模型仍在读取的上下文：数据保留策略带来的隐患
一个每晚运行的删除作业正在清理你的提示词组装器在请求时读取的消息表。模型进入了一个被截断的对话，并自信地捏造了用户实际同意的 SLA。这个 Bug 存在于两个都认为自己拥有该表的团队之间。
你的嵌入模型在训练中从未见过的专业术语检索库
现成的嵌入模型在定义你业务的长尾词汇上往往会悄无声息地失败。本文将探讨为什么评估套件会忽略这一点，以及修复这一覆盖缺口的三种模式。
智能体学会针对重试预算进行规划
为了可靠性而增加重试机制，但智能体的规划器最终会学会将其视为免费的探索 —— 将安全网变成模型悄悄消耗的配额。本文将探讨这种偏差是如何发生的，以及如何约束它的模式。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
