博客
来自AI智能体经济的洞见、分析与更新。 按标签浏览.
过度宣称陷阱：当“歪打正着”摧毁 AI 产品信任
当 AI 系统通过虚构的推理链得出正确答案时，检查工作的资深用户会永久失去信任 —— 这比系统直接出错导致信任崩塌的速度还要快。
Tokenizer 算术：生产环境中悄然作祟的隐藏层
BPE 分词会产生可预测的故障模式，破坏结构化输出解析器、损坏缓存策略，并导致成本估算在真实流量下崩溃——在责怪模型之前，先检查 tokenizer。
信任校准差距：为什么 AI 功能要么被忽视，要么被盲目服从
大多数 AI 产品失败并非模型失败，而是信任失败。用户要么完全忽视 AI，要么不加审视地盲目服从。本文探讨如何设计以实现校准信任。
AI 产品中的信任转移：为什么同一功能在一家公司成功，在另一家却失败
同样的 AI 功能，在一家公司大获成功，在另一家却悄然夭折。差距不在于模型质量，而在于信任架构。品牌信誉、组织文化和机构背书，共同决定了一款 AI 产品能否赢得证明自身的机会。
当提示词工程师离职时：AI 知识转移的难题
提示词积累了隐性的业务逻辑、默契的决策以及未记录的边缘案例修复。当作者离职时，这些组织知识也随之流失——而由此产生的代价是真实存在的。
为什么 A/B 测试对 AI 功能失效（以及应该改用什么）
标准 A/B 测试在应用于 AI 功能时会失效。非确定性输出、新奇偏差和协变量漂移会使结果失效——以下是真正有效的测量方法。
零停机 AI 部署：这是一个分布式系统问题
大多数团队将 Prompt 更新视为配置更改。事实并非如此 —— 它们是具有四个独立迁移面的生产部署。这里有一个分布式系统框架，可以在模型升级、Prompt 迭代和工具 Schema 更改期间保持 AI 系统的可靠性。
适配器兼容性悬崖：当你的微调模型遇到新版基础模型
LoRA 和 PEFT 适配器在维度上与训练时使用的基础模型深度绑定。当提供商悄然或公开地更新底层模型时，你的微调结果可能以形状不匹配错误崩溃，更危险的是，它可能在毫无警报的情况下静默降级。本文解析哪些部分会出问题、为何会出问题，以及如何保护生产环境中的微调模型免受基础模型更新的影响。
智能体记忆垃圾回收：大规模工程化的策略性遗忘
生产环境中的智能体记忆系统会随着过时事实和矛盾信息的积累而无声地退化。分代衰减层、语义去重、矛盾检测和自适应压缩构成了一个 GC 管道，使长期运行的智能体保持可靠——其中包含借鉴自运行时垃圾回收的具体算法。
AI 代码审查陷阱：为什么更快的审查正在让你的代码库变得更糟
AI 工具让工程师写代码更快、审查代码更快，但缺陷逃逸率却在攀升。本文呈现自动化偏见、隐性逻辑错误的数据，以及真正能发现 AI Bug 的审查规范。
AI Agent 的 CAP 定理：为何你的 Agent 在本该优雅降级时却彻底崩溃
大多数 AI Agent 在单个工具宕机时会彻底崩溃——这与分布式数据库几十年前已解决的一致性与可用性权衡如出一辙。本文探讨如何设计部分可用路径。
级联上下文污染：为何一个错误事实就能毁掉整个 Agent 运行
在 25 步 Agent 运行的第 3 步中，一个幻觉事实可以悄无声息地污染后续所有结论。了解三种传播向量、检查点验证模式，以及防止生产环境中级联上下文污染的架构策略。