Page 75
12 articles系统提示词作为代码、配置或数据：影响全局的架构决策
大多数团队在选择系统提示词的存储位置时非常随意，随后却要在数年内为此承担后果。在代码、配置和数据存储之间的选择会直接影响部署频率、评估范围和租户灵活性 —— 这里有一套在 MVP 阶段前就应应用的框架。
AI 工程师的三种品味：为什么 Prompt、Eval 和 Guardrail 往往无法共存于一个大脑中
Prompt 品味、Eval 品味和 Guardrail 品味是 AI 工程师这一职位头衔下隐藏的三种截然不同的直觉。如果你将它们视为同一种技能来进行招聘和晋升，你将交付一个失衡的系统——即便所有的指标都显示正常（全绿），用户却在流失。
小费罐问题：当 5% 的用户消耗了 80% 的推理预算时
针对以 token 计费的 AI 产品，固定费率定价会导致用量的幂律分布，极少数的“推理大户”会摧毁你的利润空间。传统的解决方法——如用量限制、降速、公平使用条款——会疏远那些如果你允许，他们本愿意支付更多费用的高参与度用户。本文将介绍真正符合 token 成本行为的分层架构、计量前期工作以及单位经济效益规范。
Token 放大：烧掉你账单的提示词注入攻击
大多数提示词注入威胁模型都集中在数据泄露上。更隐蔽的一类攻击是账单放大 —— 0.01 美元的请求变成了 40 美元的推理发票。这里是阻止该攻击的防御准则。
Token 预算是新一代的内部 IAM
当你的 AI 账单跨过七位数时，Token 配额就不再只是一个财务数字，而是开始演变为一种授权边界。为什么配额分配需要 IAM 级别的纪律，而不是简单的仪表板滑块。
Tokenizer Churn：你的“兼容”模型升级中隐藏的破坏性变更
供应商的模型升级可能会在保持 API 字节级稳定的同时，悄悄更换底层的 tokenizer —— 从而在无形中破坏上下文预算、停止序列和 few-shot prompt。本文将介绍如何审计、固定以及在 tokenizer churn 中生存。
难撤销操作的工具分类学：每个风险类别设置一个审批关卡
二元化的工具审批在负载下会失效：如果一个简单的确认对话框既用于保存草稿又用于对外支付，必然会诱导用户养成不假思索点击确认的习惯。一套六级风险分类法可以解决这种混淆问题。
你的工具目录遵循幂律分布，而你却在针对长尾进行优化
生产环境中的工具使用遵循幂律分布，但大多数 Agent 框架都将工具目录视为扁平结构，并为此付出了代价：Token 膨胀、工具数量超过 100 个时的准确度崩塌，以及隐性的长尾回归。这是一份关于热/冷分区的实战指南。
工具组合提权：你的安全审查清理了节点，而非边缘
针对单个工具的安全审查清理了节点，但智能体运行的是轨迹。智能体工具目录的组合图是一个安全团队从未枚举过的权限集，而混淆代理攻击就存在于这些边缘之中。
信任天花板：产品团队忽视的自主性变量
AI Agent 的发展受限于信任天花板 —— 即用户开始核查、干预或放弃该功能的临界点。应将其视为可衡量的产品变量，而非单纯的模型问题。
拒绝还是上报：置信度门控 AI 中的双阈值问题
单个置信度阈值将“拒绝”和“上报”这两个截然不同的决策强行合并为一个数字，而这种妥协正是导致你的信任度指标持续下滑的原因，即便在准确率看起来还不错的情况下也是如此。
第三份副本：向量存储、删除完整性以及 RAG 团队一直忽视的 GDPR 缺口
当用户行使被遗忘权时，删除源文本并不代表删除了嵌入向量。大多数团队从未将向量存储建模为用户数据的“第三份副本” —— 而关于逆向攻击的相关文献表明，他们理应这样做。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
