Page 27
12 articles“重新生成”按钮作为一项产品决策：当“再生”功能让用户不再信任你
“重新生成”按钮看起来是一个唾手可得的 UX 优化，但它实际上改变了用户的行为，引导他们像对待老虎机一样对待你的模型。本文将探讨设计空间——包括分页、分支、引导式生成、重新生成预算——以及如何将“重新生成率”作为产品中最高带宽的质量信号进行监测。
检索引用税：为什么合规性会增加 30% 的 RAG Token 账单
在 RAG 系统中添加引用看起来只是改一行系统提示词。但在受监管的租户中，它会悄无声息地让推理成本增加 25%–40%。本文将探讨为什么这种“税收”是结构性的，以及哪些架构层面的调整可以帮你挽回大部分成本。
二稿 Agent 模式：为什么“先探索再交付”优于“自我批判”
一种双阶段的 Agent 架构 —— 先进行发散性的初稿探索，再在受限上下文中进行精简执行 —— 在质量和成本上通常都优于 n-of-k 的自我批判循环。
影子评估：当私有切片取代了你的评估汇总
私有的评估 Notebook 看起来效率很高，但会让组织缺乏统一的评估汇总。解决方案是建立合并门控契约：共享框架、验证过的切片、明确的负责人，以及任何人都能重新运行的排行榜。
过时的 Few-Shot 示例以及你的提示词仓库所忽略的半衰期
你系统提示词中的经典示例正在悄悄地教导模型一个已不存在的产品。评估分数之所以保持绿色，是因为评估集也随之腐化了。
没人构建的“从支持工单到评估案例”流水线
支持工单是大多数 AI 团队拥有的信号最强的评估数据集，但在评估套件在 Git 中逐渐失效时，它们却在 Zendesk 中腐烂。这里有一个能够闭环的四阶段流水线。
思维标记（Thinking Tokens）在你的日志中隐身，但在账单上却震耳欲聋
推理标记（Reasoning tokens）按输出计费，但它们存在于一个大多数 LLM 可观测性栈在构建时尚未涉及的字段中。本文将分析为什么财务部门总是先于技术人员发现成本回归，以及你该如何弥合这一差距。
随时间波动的质量偏移：为什么你的 AI 功能在东部时间上午 10 点表现不同
供应商负载不仅仅是一个带有质量副作用的延迟问题 —— 它是一种你的评估套件从未察觉的分布偏移，而你交付的功能其质量下限从未被团队真正衡量。
工具 Schema 演进陷阱：当一个可选参数改变了你 Planner 的先验分布
在现有工具描述中新增一个可选参数，发布过程顺利，没有破坏任何调用者，也没有导致评估失败 —— 但由于 Planner 的先验分布发生了偏移，它悄无声息地让工具调用频率增加了两位数。为什么工具 Schema 需要语义化版本（SemVer）、频率基准，以及与系统提示词（System Prompt）同样严格的评估规范。
你的 PRD 只是一个未经测试的 Prompt —— 直到你对其进行评测
AI 功能的 PRD 本质上是一个未经编译的系统提示词。在验收前进行评测，能让定义不明确的问题在上线前就暴露出来。
智能体熔断机制：为什么步骤预算是保险丝，而非断路器
步骤计数预算只是在损失造成后才烧断的保险丝。真正的智能体熔断机制结合了语义循环检测、进展信号、Token 生成速度上限以及“停止并移交”机制。
智能体记忆是合规层面：你从未打算构建的记录管理系统
在智能体产品中，长期记忆并非仅仅是一项功能 —— 它是一个记录管理系统。从写入第一条数据的那天起，溯源、删除、审计和数据驻留义务便随之而来；在截止日期前临时修补这些功能的成本远高于在设计之初就构建它们。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
