Page 77
12 articles文档注入：每个 RAG 管道中都存在的提示注入向量
你的 RAG 管道摄入的每个 PDF、Word 文档和电子表格都是潜在的攻击面。本文将探讨文档注入的工作原理、它在生产环境中已经造成的破坏，以及能够有效防御它的清理架构。
为什么渐进式发布对 AI 功能不起作用（以及该怎么做）
特征标志和金丝雀部署假设代码是确定性的。AI 功能是随机的，质量会悄无声息地下降，而且没有实时的标准答案。这里介绍了安全部署 AI 所需的心智模型转变。
HITL 橡皮图章问题：为什么"人在回路"往往两者皆非
大多数人在回路的实现并没有产生监督效果——它们只是产生了文书工作。以下是审查者停止审查的原因，以及在规模化场景下保持HITL真实有效的设计模式。
混合自动化技术栈：规则与LLM混合使用的决策框架
规则型自动化脆弱但可审计。LLM自动化灵活但不透明。这是一个实用的决策框架，用于判断哪些任务属于哪种范式——以及如何架构两者之间的接缝。
AI 功能的延迟预算：当核心组件是随机的，如何制定并达成 p95 SLO
LLM 延迟与数据库延迟的行为截然不同。本文介绍如何为 AI 功能制定切实可行的 p95 SLO、分解延迟预算，并利用对冲、流式传输和推测执行真正达成这些目标。
供应商可靠性陷阱：你的 LLM 供应商 SLA 已成为你用户的 SLA
你对外宣称 99.9% 的正常运行时间，但你的关键路径却依赖于一个只有 99.5% SLA 的 API——而供应商故障往往集中发生在流量高峰期。以下是在故障找上门之前弥合差距的方法。
LLM 作为 ETL 原语：AI 不仅是产品功能，更是数据管道的核心
大多数团队都在产品中构建 AI 功能。而真正的变革正悄然发生在数据管道内部。在这里，LLM 大规模地对记录进行分类、增强、去重和路由——从而创造出那些仅关注产品的团队无法复制的复合数据资产。
多租户 Prompt 难题：当一个系统提示词要服务多个主人时
B2B AI 产品允许客户自定义行为，但分层的系统提示词会静默地相互覆盖——直到企业客户提交工单前没人会发现。本文介绍了一种显式的指令层级架构，使冲突解决过程变得可审计。
多变量回归问题：当所有因素同时改变时，如何隔离 AI 故障
当你的 AI 功能出现回归，且模型版本、提示词、检索语料库以及工具架构都在同一个周五发生了变化时，归因几乎变得不可能。本文将介绍能够防止最坏结果的受控实验规范和影子评估模式。
运营模型卡：实验室不发布的部署文档
已发布的模型卡告诉你模型是否安全——但不会告诉你它能否满足你的p95 SLA、在什么上下文长度下性能会下降，或者它产生格式错误JSON的频率。这里是构建你真正需要的部署文档的测试套件。
Prompt 静态分析：你的 AI 系统缺失的预部署门控
大多数团队发布提示词变更到生产环境时，审查力度还不如一次 CSS 调整。对提示词进行静态分析——捕获指令冲突、可注入的模板插槽和位置陷阱——正是你的 AI 系统缺失的预部署门控。
Schema 熵：为什么你的工具定义正在生产环境中腐烂
生产环境 AI 系统中的工具定义在数月内会悄无声息地降级。本文将探讨 Schema 熵是如何形成的，为什么 Agent 无法自我修正，以及如何通过版本控制和契约测试实践在故障发生前捕获腐烂问题。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
