Page 56
12 articlesAI 调试器的陷阱：当 Agent 的补丁速度超过你的诊断速度
Agent 生成补丁的速度比工程师诊断 Bug 的速度还要快。代价是：这个代码库的故障模式最终只有 Agent 才能理解。
AI 软件物料清单 (AIBOM)：当采购部门问起时，你的依赖树长什么样
大多数 AI 团队在面对“请展示你们的依赖树”时，只能给出一个 Slack 讨论串。AIBOM 将其转变为一个查询系统 —— 一个持续生成的模型、Prompt、工具和数据集清单，在监管机构和采购部门提问之前就满足他们的需求。
AI 旁观者效应：为什么五支团队协作发布却交付了无人问津的评估套件
AI 功能的失败与旁观者未能拨打 911 的原因如出一辙 —— 并不是因为没人注意到，而是因为每个人都认为别人会负责。为什么指定唯一的输出质量负责人 (DRI) 是唯一可扩展的解决方案。
你的 AI 功能需要一个无需部署的紧急开关 (Kill Switch)
一次标准的部署回滚需要 30 分钟；而一个表现异常的 LLM 仅需几秒钟就能向客户发送错误的输出。这里是你的 AI 功能在发生首次故障前所需的关闭原语——四种标志系列、触发它们的检测信号，以及确保其有效的测试规范。
你的 AI 功能没有 DRI：为什么它在没有季度目标负责人的情况下处于漂流状态
AI 功能横跨产品、工程、研究和 FinOps，最终却落得无人负责。这里提供了一种组织模式，可以防止它们在季度评估之间处于漂流状态。
你的 AI 功能可靠性受限于无人负责的上游 ETL 流水线
大多数 AI 质量退化实际上是伪装成 AI 问题的上游数据问题。数据契约、血缘关系和结对轮值机制能将隐形的 ETL 接缝转化为一等公民工件。
AI 功能观察期：为什么两周的灰度发布会错过真正关键的问题
两周的灰度发布能捕捉到系统崩溃，但 AI 功能的失败通常表现为趋势性变化。本文深入探讨了观察期、慢性失败指标以及保持足够长有效期的回滚路径的实际案例。
你的律师还没学会要求的 AI 采购条款
标准 SaaS 模板缺少 AI 特有的条款——如训练数据排除、模型锁定、输出赔偿和审计权——这些条款决定了你的供应商关系能否在下一次模型更迭中幸存。
自主性开关：为何智能体模式应是用户设置而非模型设置
在你的智能体产品中硬编码单一的自主性级别会疏远一半的用户。相反，你应该交付单项任务自主性阶梯、成比例的撤销机制以及学习型默认设置。
AI 功能的 Bug Bash：分布采样，而非猎捕缺陷
为什么传统的 Bug Bash 流程在具有随机性的 AI 功能上会失效，以及如何将其重新设计为一种产生评估（evals）而非轶闻的采样过程。
闭环升级漏洞：当你的专精型智能体陷入循环路由
两个专精型智能体之间来回传递同一个对话，可能会在任何人察觉之前悄无声息地烧掉五万美元的推理成本。请将移交（handoffs）视为一种路由协议，而非领域抽象。
你的编程智能体是一个从不阅读测试的初级工程师
编程智能体的生产力源于模型周边的脚手架 —— 这些脚手架正是团队原本就为初级工程师准备的。本文将探讨需要记录哪些内容，以及为什么智能体最终会迫使你这么做。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
