Page 2
12 articlesP99 是产品决策，而非基建决策
你的尾部延迟目标并不是基建团队单纯优化出的一个数字 —— 这个数字本身就是一个产品选择。本文探讨了 UX 交互设计与延迟预算如何相互权衡，以及为什么 P99 应该出现在设计评审中。
语义差异：当行级对比毫无意义时，如何评审 Prompt 变更
仅仅三个词的 Prompt 修改就可能让你的幻觉率翻三倍，而行级对比（Line Diff）看起来却毫无破绽。为什么 Prompt 变更需要语义差异（Semantic Diff）—— 比较行为而非文本 —— 以及如何在 PR 中对此进行门控拦截。
你从未进行过压测的每分钟 Token 上限
供应商的速率限制是你无法控制的每分钟 Token 预算 —— 而产品发布则是发现这一上限的最糟糕时机。本文将介绍如何在 429 错误发生前进行预测、压测并预留缓冲空间。
没人使用的长尾：工具带是如何变得尾大不掉的
你给智能体增加的每一个工具，都在削弱它选择正确工具的能力。那几十个无人问津的工具正在悄悄降低那三个核心工具的被选概率 —— 本文将探讨如何保持工具目录的精简与高效。
你无法删除的用户：AI 系统中的被遗忘权
一项“被遗忘权”请求揭示了 AI 系统中一个令人不安的事实：用户数据散布在模型权重、向量索引和缓存中，且没有单一的数据行可以删除。本文探讨如何为“可遗忘性”进行设计。
聊天并非最佳界面：为什么你的智能体不应只是一个文本框
大多数打开聊天窗口的人从不发送消息。聊天是一种不错的输入原语，但作为运行环境却很糟糕 —— 本文将探讨何时该采用结构化 UI、生成式 UI 和环境智能体。
与先验对抗：当模型掌握了错误版本的技术栈时
你的编程模型并不是对你的框架一无所知 —— 它掌握的是一个自信但错误的版本。本文将探讨为什么模型的先验知识会战胜你提供的上下文，以及哪些对策能真正奏效。
间接提示注入：你以为处于惰性的数据平面
你的智能体将检索到的每个文档都视为惰性数据，但检索到的文本实际上是以系统提示词的权限运行的。本文将探讨间接提示注入的工作原理、为什么 EchoLeak 证明了它的存在，以及真正有效的防御手段。
没人会为你的智能体承保
你的智能体准确率足以在无人看管的情况下运行，但部署过程却卡在了一个问题上：当它出错时，谁来承担损失。本文探讨了为什么自主性现在成了一个保险问题，以及如何让智能体变得可承保。
试点炼狱：廉价的 90% 正是你的 AI POC 无法转正的原因
一个可运行的 AI 演示只是那看起来像 100% 但其实很廉价的 90%。那些能确保其在生产环境中安全运行的评估、护栏、可观测性、成本上限和权属划分，才是没人预估过的昂贵的 10% —— 这里有一份清单，帮你提前预估这些成本。
Token 预留容量：被人们忽略的、尚未从云时代迁移过来的预留实例决策
预置吞吐量和承诺使用折扣让你能像以前预留 EC2 一样预留 LLM 推理资源 —— 但盈亏平衡点比你想象的要高，而且你的承诺可能会因为模型弃用而陷入困境。这里是移植过来的实战手册，以及其中一个危险的变数。
影子智能体：法务在事故复盘中才发现的 AI 功能
一个能够读取客户数据并采取行动的未经授权 AI 智能体，比任何违规的 SaaS 订阅都更令人震惊。本文探讨影子智能体是如何潜入生产环境的，为什么你现有的控制措施会失效，以及如何在数据泄露发生前发现它们的轻量级治理方案。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
