Page 45
12 articles工具过载问题：为什么工具越多，你的大模型越笨
当 LLM 面对大量工具集时，工具选择准确率会跌至 13%。本文解析工具过载如何拖垮你的 Agent，并介绍如何通过路由层、分层工具集和懒加载注册表来解决这一问题。
RAG 管道中的 PII 泄露：为什么你的聊天机器人知道它不该知道的事情
语义相似性并不遵循数据访问边界。本文将探讨 RAG 管道如何将敏感记录暴露给未经授权的用户，以及阻止这种行为的分层防御机制。
Embedding的隐私架构：你的向量数据库对用户了解多少
对用户文档进行embedding会产生传统数据库没有的全新隐私攻击面。本文介绍重识别风险的工作原理、RAG管道中访问控制的失效点，以及真正能解决问题的架构模式。
提示词考古：从无文档遗留提示词中还原设计意图
当你接手一个没有任何文档的生产提示词时，该如何弄清楚它的设计意图？本文提供了一套从无文档提示词中还原意图的系统方法，以及能帮助后续工程师避免同样困境的文档格式。
提示词债务螺旋：单行补丁如何摧毁生产环境的提示词
生产环境中的提示词通过增量补丁积累技术债务，这些补丁最终会演变成相互矛盾、臃肿的指令。本文将介绍如何识别这种螺旋式下降，并在提示词变得不可维护之前打破它。
提示词治理问题：管理存在于代码库之外的业务逻辑
当你在产品、ML和基础设施团队中有50个以上活跃提示词时，你面对的是一个分布式系统问题，而不是写作问题。以下是防止其成为隐患的基础设施。
提示注入是供应链问题，而非输入验证问题
按请求净化给团队带来了虚假的安全感。随着RAG系统索引数百万文档、智能体消费第三方工具输出，真正的防御需要架构层面的控制：内容溯源、信任层级执行和沙箱隔离。
提示词本地化技术债：隐藏在多语言 AI 产品中的无声质量梯度
为什么在英语中表现为 91% 的提示词，在日语或阿拉伯语中会悄然下降到 72% —— 以及如何构建评估基础设施，在这些回归影响到非英语用户之前捕获它们。
面向消费者的 LLM 功能红队测试：抢在用户之前发现注入攻击面
面向消费者的 LLM 功能面临着内部智能体从未遇到的攻击面。本指南提供关于注入向量、大规模越狱模式、模型反演风险以及生产级 AI 系统化加固方案的实用建议。
检索单一化：为什么你的 RAG 系统存在系统性盲点
当所有查询都流经单一嵌入空间时，结构不同的查询类型会系统性地落入同样的盲区。本文介绍如何审计检索多样性并修复它，同时不牺牲延迟预算。
为具备代码编写能力的智能体构建沙箱：最小权限原则并非可选
仅靠 API 密钥范围限制是不够的。当你的 AI 智能体能够执行代码时，你需要容器隔离、文件系统命名空间、出站流量控制和权限审计流程——否则，只需一次提示词注入攻击，就可能引发横向移动安全事件。
边缘AI推理：将推理从云端迁移的决策框架
面向工程师的实用决策框架：何时将LLM推理迁移到边缘端——延迟阈值、成本盈亏平衡分析、量化质量损耗，以及分割推理架构。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
