Page 42
12 articles多模态输入中的提示注入：纯文本防御所忽视的视觉攻击面
基于文本的提示注入防御对隐藏在图像、PDF 和音频中的攻击视而不见。本文全面梳理多模态 AI 管道的攻击面，并介绍如何构建真正有效的分层防御体系。
Prompt Injection 并不主要是一个攻击者问题
普通的用户内容 —— 产品评论、支持工单、文档 —— 可以在没有任何攻击者参与的情况下，大规模地覆盖你的 AI 行为。本文将探讨为什么标准防御手段会忽略这一结构性问题，以及真正解决该问题的架构模式。
Prompt 表面积问题：为什么增加一个工具绝不仅仅是增加一个工具
为 LLM Agent 增加的每一个新工具都会呈非线性地增加行为复杂度 —— 产生交互效应、评估盲点和安全漏洞，其增长速度远快于能力增益。本文将探讨如何在 Agent 的表面积超出你的控制范围之前对其进行审计。
AI 知识库中的溯源债务：当 RAG 系统开始检索自身的输出
AI 生成的摘要、FAQ 和分析报告在没有来源标记的情况下不断积累进你的 RAG 语料库——每一次检索循环都会加剧误差。如何检测语料库污染，以及构建防止反馈循环的检索策略。
安静放弃模式：AI 参与度指标为何在说谎
那些点击 AI 建议后立即重写的用户，在你的分析系统中看起来与真正活跃的用户完全相同。以下是如何测量实际情况的方法。
配额饥饿：当你的 AI 功能相互消耗速率限制时
当多个 AI 功能共享同一个 API 密钥时，优先级由谁先发出请求隐式决定。以下是如何在批处理任务饿死面向用户的功能之前，让配额分配变得明确。
RAG 评估失效悖论：为什么更新知识库会破坏你的基准测试
更新 RAG 知识库不仅会改变系统检索的内容，还会悄无声息地使你用于衡量系统的评估集失效。大多数团队从未意识到其中的差异。
RAG 数据契约问题：摄取管道如何悄然破坏检索质量
Schema 漂移、嵌入模型更新和过时文档可能在数周内悄然降低 RAG 检索质量，而不产生任何错误日志。数据契约和摄取层监控能在用户察觉之前阻止质量腐化。
速率限制是设计约束，不是错误代码
当 LLM API 速率限制被视为边缘情况而非架构约束时，结果轻则导致无声的成本爆炸，重则造成完全的服务故障。以下是如何设计在持续配额压力下正常运行的系统。
你的拒绝日志其实是伪装的产品需求清单
AI 拒绝的请求是你拥有的最真实的用户研究数据。本文将教你如何像对待产品需求清单一样去解读这些日志，而不是将其视为安全监视名单。
逆行准确率问题：为什么 AI 功能会随着产品的增长而退化
那些发布时准确率高达 91% 的 AI 功能，在六个月后可能会悄然下降到 83% —— 这并非源于模型漂移，而是因为产品复杂度的增加创造了模型从未训练过的输入状态。本文将探讨如何检测、审计并弥合这一差距，以免你发现用户已经流失。
多租户 LLM 推理中的调度公平性：为什么 FIFO 是错误的默认选择
当多个团队共享 LLM 推理基础设施时，朴素的 FIFO 调度会导致优先级反转和 SLO 违规。以下是生产环境中公平调度的真实面貌。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
