Page 126
12 articles推理成本悖论：为何模型越来越便宜，你的 AI 账单却越来越高
过去三年，每百万 token 的 LLM 价格下降了 1000 倍。同期，企业 AI 支出增长了 320%。这两个事实同时成立——本文解析背后的机制，以及你应该怎么做。
推理侧个性化陷阱：当用户上下文的成本超过其收益时
在每个 LLM 提示词中加入用户历史记录似乎是一个显而易见的改进——直到你衡量了每一单位质量提升所付出的 token 成本。本文将探讨推理侧个性化在何时不再划算，以及生产环境中的架构是如何应对这一挑战的。
指令位置问题：你在提示词中放置内容的位置，就是一个架构决策
你在LLM提示词中放置指令的位置，决定了模型是否会遵守它们。首因效应和近因效应会导致放在提示中间的规则遵从率下降30–50%——而大多数团队只有在生产环境中才会发现这一点。
LLM 伪造问题：当模型为错误答案构建出令人信服的论据
LLM 不只会幻觉事实——它们还会伪造推理。伪造问题是指模型先做决定再进行解释，以选择性忽略证据为基础构建出听起来合理的综合分析。
按量计费的 AI 定价死亡螺旋：为什么按 Token 计费会惩罚你最好的功能
按 Token 计费会产生扭曲的激励机制，让你最有价值的 AI 功能运行成本最高。混合定价和基于成果的定价模型能够重新将成本与交付价值对齐。
需求鸿沟：当“正确”是一个分布时，如何为 AI 功能编写规格说明
标准的用户故事和验收标准在面对概率性 AI 输出时会失效。本文介绍了一种两层行为规范格式——将硬性策略约束与可协商的质量阈值区分开来，并解释了为什么预先定义这些内容可以将迭代周期缩短 3–5 倍。
第二意见经济学：双模型验证何时真正值得
用第二个LLM来验证第一个看起来显而易见。但实际上，几乎没有团队能做好。这里是一个成本收益框架，告诉你何时值得这么做。
三时钟问题：为什么你的 AI 系统活在三条不同的时间线上
生产环境中的 AI 系统运行在三个不同步的时钟上——墙上时间、模型知识截止时间和 RAG 索引新鲜度——产生标准监控永远无法捕获的静默故障。
温备问题：为何你的 AI 覆盖按钮不是安全网
随着 AI 代理吸收了原本由人类处理的任务，名义上负责的人类逐渐失去了在出错时接管的能力。以下是如何设计真正有效的升级路径。
将你的 LLM 提供商视为不可靠上游：AI 的分布式系统实战手册
LLM API 的故障方式与其他所有上游依赖截然不同——它们返回 200 OK 的同时却产出了幻觉垃圾。本文介绍如何针对生产环境 AI 的独特故障模式调整熔断器、超时、降级和舱壁模式。
智能体行为版本控制：为什么 Git 提交无法捕获真正的变化
Git 提交和语义版本控制无法捕获 AI 智能体行为的实际变化。了解行为快照、翻转中心门控和轨迹测试套件如何定义非确定性系统中'版本'的真正含义。
AI委托悖论：你无法评估自己不会做的工作
将编码工作委托给AI的工程师，恰恰失去了验证AI输出所需的技能。研究表明，使用AI工具的开发者实际上慢了19%，却认为自己快了20%——39个百分点的认知差距驱动着代码质量持续下降的危险反馈循环。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
