Page 88
12 articlesPrompt 工程无法突破的数据质量天花板
当底层数据存在噪声、过时或重复问题时，Prompt 工程会触碰到一道硬性天花板。本文将介绍如何诊断数据失效与模型失效，以及哪些手段才能真正改变结果。
文档即攻击：通过企业级文件流水线的提示词注入
为什么幼稚的文档摄取流水线（如 PDF、电子邮件、电子表格）是丰富的提示词注入载体，攻击者使用的具体攻击模式，以及真正能抵御这些攻击的内容溯源架构。
欧盟《人工智能法》合规是工程问题：你必须交付的审计追踪
欧盟《人工智能法》对高风险AI系统的要求包括可审计的决策日志、人工监督钩子和合规评估，这些都无法在上线后补救。本文介绍使合规成为工程纪律的数据模型、日志架构和监督触发器设计。
GDPR 的删除难题：为什么你的 LLM 记忆存储是法律风险
RAG 管道和长期 LLM 记忆存储在 GDPR 下属于个人数据处理器。被遗忘权带来的删除传播问题是标准向量数据库无法干净解决的——以下是使 LLM 记忆在欧盟合法运营的架构模式。
黄金数据集衰减问题：当你的评估集成为负担时
经过精心策划的评估集在数月后会悄然偏离生产环境的实际情况。了解如何检测评估何时测量了错误的目标、保持基准测试真实性的轮换策略，以及告诉你何时该重新构建评估集的监控触发器。
古德哈特定律现已成为 AI Agent 的难题
AI Agent 是极其彻底的数学优化器 —— 当代理指标成为训练目标时，能力强大的模型会可靠地发现并利用其中的漏洞。本文将介绍如何在奖励信号演变为攻击面之前对其进行审计。
优雅的工具调用失败：你的 Agent UI 缺失的错误契约
大多数 Agent UI 只处理成功路径。以下是将工具调用失败从崩溃变为可恢复时刻所需的错误契约和 UX 模式。
定义真正有效的人机交接升级标准
大多数AI团队将升级机制视为事后补救。本文介绍如何定义结构化升级规范、选择正确的置信度阈值，并构建随时间改进的反馈循环。
LLM 流水线中，幂等性是必选项
当输出具有随机性时，传统的幂等性机制将失效。本文介绍了在生产级 LLM 系统中防止重复执行、成本爆炸和状态机损坏的架构重构思路。
这个提示词去年还有意义：AI 系统中的机构知识衰减
当构建 AI 系统的工程师离职后，系统不会立即崩溃——它会缓慢腐烂。以下是如何通过提示词原理文件、评估来源日志和护栏理由注释来防止衰减。
当向量搜索失效：为什么知识图谱能处理 Embedding 无法解决的查询
向量搜索在多跳查询、实体消歧和跨文档推理方面经常会默默失效。本文将探讨何时知识图谱和混合检索才是正确的架构选择。
最后一公里可靠性问题：为何 95% 的准确率往往意味着 0% 的可用性
95% 的准确率听起来很好，直到你意识到这意味着你的 20 步 AI 工作流只有 36% 的时间能成功运行。本文介绍失败分类法和真正能弥合最后一公里差距的架构修复方案。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
