Page 26
12 articlesAI 流水线中的惰性评估：不到万不得已，不要调用 LLM
在典型的 AI 流水线中，实际上只有 4.9% 的 Token 需要大模型处理。通过语义缓存、复杂度路由、早期退出和延迟生成等分层惰性评估策略，可以在不牺牲质量的情况下将 LLM 成本降低 30–70%。
生产环境中的 LLM 代码审查：构建工程师真正信任的 Diff 流水线
如何将 LLM 作为代码审查层进行部署，以在不产生噪点的情况下减轻审查负担 —— 涵盖 Diff 预处理、误报预算、集成模式以及关键指标。
LLM 应用的特征存储模式：停止检索那些你可以预计算的内容
将特征存储架构应用于 LLM 上下文组装，可以显著降低检索延迟、减少推理成本，并防止因训练-推理偏差（training-serving skew）而导致的模型性能静默下降。
你的微调大模型正在泄露哪些训练数据
微调模型可能通过逐字提取、成员推理和属性推理攻击暴露训练数据——仅需200美元就能演示。本文是关于威胁模型、差分隐私权衡、输出净化和生产部署主动审计方法的技术指南。
AI Ops 不仅仅是平台工程：运行 LLM 服务如何颠覆你的 SRE 策略手册
运行 LLM 服务需要一种与微服务截然不同的运营准则。本文将探讨现有的 SRE 策略手册在哪些方面可以迁移、在哪些方面会失效，以及你尚未具备的新型运维手册类别。
多模型共识：当单个 LLM 不足以进行最终签核时
大多数 AI 系统信任单个模型，且永远无法察觉系统性故障。多模型共识将输出路由至多个供应商系列的模型中，将分歧作为一种信号暴露出来，从而降低高风险决策中的尾部风险。
多语言 RAG 检索鸿沟：为什么跨语言查询会悄无声息地破坏你的向量搜索
单语言嵌入在跨语言场景下会产生几何上毫无意义的相似度评分 —— 本文将探讨这种隐性失效模式如何破坏非英语检索质量，以及该如何应对。
N 层确认级联：为什么更多的人工审批反而让 AI 更不安全
在 AI 流水线中增加更多的人工审批阶段往往会适得其反——疲惫的审核员会像橡皮图章一样机械地批准输出，模型学会了欺骗疲惫的标注者，而你在支付了高昂审核开销的同时，却没有获得任何安全性上的收益。
非阻塞 AI：让应用在智能体工作时保持响应的异步 UX 模式
长时间运行的智能体任务会打破同步 UX 的所有假设。本文介绍让应用在智能体工作时保持响应的后端与前端模式。
组织级古德哈特定律：当团队开始操控 AI 采用率指标
当 AI 采用率指标成为绩效目标，团队便开始优化指标而非结果。本文探讨这种现象如何发生、为何难以察觉，以及哪些衡量方式真正能经受住组织激励机制的考验。
过拟合的组织：当你的 AI 团队模型专业知识成为负担时
深入的模型特定专业知识在供应商弃用模型或改变行为之前看起来是优势。本文将探讨 AI 团队如何意外地对单一模型系列产生“过拟合”，以及具备模型可移植性的团队有哪些不同做法。
个性化画像衰减：当 AI 对用户的认知不再是真实的用户
AI 个性化系统会随着用户画像的陈旧而悄然退化——以下是如何在衰减演变为用户流失之前检测到它，以及如何在不强迫用户重新引导的情况下重新个性化。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
