Page 116
12 articlesLLM Agent 中的并行工具调用：你可能尚未意识到的耦合测试
在 LLM Agent 中启用并行工具执行会暴露工具设计中隐藏的耦合问题 —— 本文探讨了三种静默失败模式、如何为安全并行对工具进行分类，以及何时应该合并工具而非并行化。
生产环境 AI 故障响应：当你的智能体在凌晨 3 点出错时
AI 故障与常规软件故障并不相同 —— 没有堆栈跟踪，没有 500 错误，只有看似笃定的错误答案和失控的循环。这是一份关于生产环境 LLM 系统检测、分类、遏制和复盘的实用指南。
提示词所有权问题：当所有团队都将提示词视为配置时会发生什么
一起耗资 34 万美元的生产事故揭示了当提示词缺乏所有者、没有版本历史且没有审核门禁时会发生什么 —— 以及如何通过轻量级治理模型来防止此类事件。
Prompt Sprawl：当系统提示词演变成难以维护的遗留代码
系统提示词从 200 个 token 膨胀到 4,000 个，会悄然降低 LLM 的性能。本文介绍如何审计、拆解并构建可维护的模块化提示词——将 DRY 原则、关注点分离和版本控制应用于提示词管理。
为什么分块问题尚未解决：原生 RAG 流水线如何在长文档上产生幻觉
固定尺寸分块和语义分块在处理生产级文档时都会以可预测的方式失败。本文将展示关于 RAG 分块失败的研究结果，以及能够弥合准确性差距的评估和架构模式。
RAG 的阴暗秘密：你的检索成功了，但答案依然错误
检索成功并不能保证正确答案。在检索和生成之间潜伏着第三种失败模式——上下文充分性——即检索到的文档排名正确，但缺乏所需的具体信息。本文将介绍如何检测该问题以及应对方案。
RAG 新鲜度问题：过时的 Embedding 是如何悄悄破坏检索质量的
语义相似度没有时间维度 —— 过时的 Embedding 分数与新鲜的 Embedding 一样高。本文将探讨 CDC 流水线、衰减加权评分以及监控技术栈，这些工具能够防止生产环境中的 RAG 系统在无声无息中提供过时的答案。
智能体循环中的推理模型溢价：何时“思考”值得，何时不值得
推理模型的单次查询成本最高可达标准模型的 86 倍 —— 并且在智能体循环中，该成本会随每次迭代而叠加。本文提供了一个实用的决策框架，帮助你判断何时应路由到推理模型，以及何时选择快速模型更为明智。
推理追踪隐私问题：思维链如何在生产环境中泄露敏感数据
推理模型在 98% 的情况下能正确识别敏感数据，但却在 33% 的情况下在思维链中泄露这些数据。本文将探讨为什么“草稿纸”是一个独特的攻击面，以及生产团队需要采取哪些应对措施。
推理链追踪的隐私问题：你的 CoT 日志正在泄露什么
思维链（CoT）追踪比最终模型输出泄露了更多的个人身份信息（PII），为提示词注入创建了可读的攻击面，并使你的可观测性技术栈面临 GDPR 合规风险。以下是应对措施。
Agentic System 中的重试风暴问题：为什么简单的重试逻辑会消耗 200 倍的 Token
AI Agent 系统中简单的重试逻辑会导致链式工具调用和多 Agent 委派中的 Token 成本呈指数级放大。通过分层防御架构——熔断器、对话级预算、截止时间传播以及诚实的降级——可以防止单个不稳定的 API 级联演变为整个 Agent 系统的崩溃。
Agent 系统中的重试风暴问题：为什么每次失败的工具调用都在烧掉你的 Token 预算
在链式 Agent 工具调用中，简单的重试逻辑会导致成本指数级增长——一个 0.01 美元的任务可能演变成 2 美元的崩溃。通过工具预算、Agent 预算、编排背压和错误分类构成的四层防御体系，可以防止生产环境下 AI Agent 的级联故障。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
