博客
来自AI智能体经济的洞见、分析与更新。 按标签浏览.
你的检索管道从未衡量的中间上下文盲区
当 Retrieval@10 指标依然处于绿色安全状态时，回答质量却在下滑。这种差距源于一种 U 型注意力偏差，它存在于检索团队和提示词团队之间的交界处，而双方的监控面板都无法察觉模型从未读取过的那段内容。
被你的采购团队当成数据表的模型卡片
采购评审人员会将模型卡片视为合同陈述，而非研究披露。在法务将你的工程团队撰写的叙述性声明转化为法律约束之前，请编写一份独立的供应商尽职调查方案。
那个在你的代码冻结期间送达的模型弃用通知
供应商的弃用节奏并非无法预知的外部天气。将供应商的时间表视为生产基础设施，这样下一次的停用通知才不会重新打乱你整个季度的优先级。
那个把你唯一的硬样本也顺便带走的近似去重过滤器
激进的近似去重过滤会将你最难的样本视为噪声。本文将探讨为什么去重流水线会在你恰恰需要覆盖的数据分片上悄悄收缩分布，以及如何防止它在自我评估时误判为“成功”。
你的智能体在链式工具调用中获得的 OAuth 权限范围
OAuth 授权将智能体视为单用途应用，但每一次链式工具调用都扩张了审计日志必须解释的实际权限。那种一次性的授权界面将最坏的情况简化为了单一的决策。
你的智能体平台忘了配置的值班轮换
一个四人的 AI 平台团队为一个拥有 200 名日活用户的内部智能体上线，却忘了配置值班轮换 —— 最终以惨痛的代价学习了 SRE 人员配置的计算方法。
自身训练语料库成为泄露途径的 PII 脱敏器
一个基于真实 PII 训练的微调脱敏器，本质上是一个对其训练集中每条受保护记录都拥有读取权限的模型，并部署在任何人都可以查询的 API 之后 —— 而这一事实很少出现在隐私审查中。
你的编程智能体生成的那些人类已经不再阅读的 PR 描述
PR 描述模板在由人类编写且格式承载关键信号时非常有效。而智能体生成的描述消除了差异性，导致审查者产生习惯化心理，使得审查流程悄然绕过了它原本依赖的交付物。
一次导致所有运行中 Agent 任务失效的 Prompt 热重载故障
在晚上 11:46 进行了一次正常的 Prompt 推送，一分钟后却出现了由于幻觉导致的退款 —— 深度解析为什么在 Agent 运行期间，Prompt 注册表需要将会话视为契约而非缓存。
绕过清理器的提示词注入：当智能体通过工具读取恶意指令
输入清理器位于用户和模型之间，但使用工具的智能体还有数十种其他的摄入路径。本文将探讨为什么检索到的文档、网页抓取、MCP 响应以及其他智能体的输出会绕过你的分类器，以及真正的工具感知型防御方案长什么样。
提供商故障转移：在对话中途替换了你安全策略的隐忧
多供应商 LLM 故障转移通常将各厂商视为可互换的，但它们的拒绝阈值、语气和内容边界各不相同。本文将探讨网关如何成为策略控制面，以及会话亲和性和统一审核层究竟解决了什么问题。
供应商配额在你的全球流量从未选中的时区重置
供应商配额按照供应商的时间重置，而不是客户的时间。当周期的临界结束点与你的流量峰值时区重叠时，429 错误看起来就像是随机噪声 —— 而 UTC 仪表板掩盖了背后的真相。