Page 51
12 articles重排序才是核心：为什么检索系统的瓶颈从来不在索引
大多数团队在向量索引调优上投入过多，而在重排序层投入不足。决定你的 RAG 系统是提供准确结果还是产生幻觉的是排序步骤，而非索引。
影子 AI 问题：为什么工程师绕过你的官方 AI 平台，以及如何应对
近一半的工程师在使用雇主未授权的 AI 工具。封锁端点只会让问题更严重。影子 AI 是平台设计失败的体现——以下是解决方案。
利益相关者解释层：构建监管机构和高管真正认可的 AI 透明度
大多数 AI 系统能向工程师解释自己。几乎没有系统能向监管机构、高管或法律团队解释自己。以下是弥合这一差距的架构层——以及为什么这从根本上是一个可观测性问题，而非可解释性问题。
系统提示词是软件接口，而非配置字符串
大多数团队把系统提示词当成配置字符串对待——没有版本控制、没有测试，一次错误的编辑就可能引发静默故障。将软件接口设计原则应用于提示词，才是让 LLM 系统在规模化后仍可维护的关键。
思考预算：扩展推理模型何时真正具备经济意义
扩展推理模型可能将推理成本推高 5-30 倍，也可能在高难度任务上带来真实的质量飞跃。关键在于路由决策：哪些查询真正值得使用思考 token，如何设置预算上限，以及如何在账单到来前发现过度思考。
超时感知的智能体设计：如何返回部分结果而非静默失败
大多数 AI 智能体在触达截止时间时会完全失败。本文介绍如何设计能够返回当前最优结果而非什么都不返回的智能体。
AI 驱动的 API 产品 Token 经济学：如何为不可预测的成本定价
在波动的 LLM 成本面前，按席位和按查询定价的模式都已失效。本文将探讨如何为 AI 驱动的 API 产品设计混合定价方案、Token 预算以及毛利计算逻辑。
规模化工具发现：为何纯嵌入检索在超过 20 个工具后开始失效
当AI智能体的工具库超过20个后，平面嵌入检索就会崩溃。本文解析其失败原因、结构化能力元数据的形态，以及分层路由器如何解决更好的工具描述无法修复的架构问题。
工具输出 Schema 设计：你的工具响应如何塑造智能体推理
糟糕的工具输出 schema 会导致智能体推理失败，表面上看像是模型问题。本文提供字段命名、可空性、冗余性、错误设计以及输出契约测试的实用指南。
AI 内容过滤器的双边成本：过度拒绝同样是业务问题
AI 内容过滤器通常被调整为尽量减少漏报，同时忽视误报——但拦截合法用户同样有可量化的业务损失。本文介绍如何正确校准这两类错误。
向量数据库分片：HNSW为何在分区边界失效及应对策略
HNSW图在分区方式上存在特殊阻力，会在大规模场景下导致无声的召回率下降。本文深入探讨其失效原因、实际中召回率损失的表现，以及团队在超出单节点容量后用于恢复检索精度的运营模式。
责任转移问题：为什么AI会为它从未被设计独自做出的决策背锅
当AI辅助决策出错时，组织往往将矛头指向AI——但AI从未批准任何事情。本文解析生产系统中责任转移的成因，以及能够防止它发生的设计模式。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
