引入“人机回圈”（Human-in-the-loop），你就有了一个控制点。每天在这个人面前摆上一百个审批请求，你得到的只是一个戴着控制点徽章的“橡皮图章”。在架构图上，两者看起来一模一样。但在负载之下，它们的表现完全不同，而两者之间的鸿沟，正是大多数“负责任的 AI”部署默默宣告失败的地方。
任何观察过安全运营中心（SOC）陷入困境的人对这种模式都不陌生。行业调查显示，未被调查的警报比例在四分之一到三分之二之间——一个经常被引用的数字是，62% 的警报被直接忽略，55% 的团队承认经常错过被他们归类为关键的警报。分析师并不懒惰。他们每天处理数千个警报，而误报率通常超过 50%，人类大脑对这种比例的反应正是你所预期的：它不再关注了。智能体 AI（Agentic AI）正通过一个又一个确认对话框，重新制造这种完全相同的故障模式。
在 2026 年的代码审查（Code Review）讨论串中，最昂贵的一句话莫过于“这是 Agent 这么写的”。这并非因为它本身是错的——有时它确实没错——而是因为它终止了本该由此开启的对话。审查者输入一个问题，作者直接引用模型的推理作为回复，讨论在任何人真正开始争论这项变更之前就结束了。反对一个自信且谈吐得体的模型的社交成本，已经悄然高过了合并一个隐蔽 Bug 的成本，而大多数团队在未来两个季度内都无法在指标中察觉到这种权衡。
这不是一个关于 AI 写代码好坏的故事。它会写代码，其中有些还写得不错。这是一个关于当编写代码的摩擦消失时，质量关卡（Quality Gate）会发生什么的故事。审查速度上升，缺陷率也随之同步上升，而这种关联并不明显，因为没有人在追踪审查耗时与缺陷时会关联作者的类别。曾经是代码库品味核心的资深工程师，在一个悄然转向“模型盲从”的文化中，变成了孤独的坚持者。
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
