Page 151
12 articles生产环境中的推理模型：何时获益，何时受损
推理模型可以解决指令模型无法处理的问题 —— 但如果使用不当，成本会增加 10 倍，且每个请求会增加 10 秒的延迟。以下是你该如何权衡利弊的思考。
生产环境中的 LLM 延迟：哪些手段真正能见效
对 LLM 延迟进行的实用解析——涵盖 Prefill 与 Decode 阶段、流式传输、KV 缓存策略、投机采样，以及为了加速交付 AI 应用需要衡量哪些关键指标。
为什么长任务 AI Agent 会在生产环境中失败（以及修复它们的底层架构）
长任务 AI Agent 的失败方式往往是可预见的：复合错误率、同步超时、非幂等重试以及缺乏人工干预计划。本文将介绍如何构建真正可靠的底层架构。
生产环境中的 LLM 防护栏：为什么单层防护永远不够
5 个准确率为 90% 的防护栏仅能为你提供 59% 的系统正确率。这是一份关于分层防护栏架构的实用指南——涵盖输入和输出验证、工具选择、延迟权衡，以及为什么复合错误率是隐藏的失败模式。
上下文工程：为什么你喂给 LLM 的内容比你提问的方式更重要
上下文工程是提示词工程无法解决的系统架构问题。本文将解释为什么投毒、干扰、混淆和冲突这四种失败模式解释了大多数生产环境中的 LLM 故障，以及如何通过工程化手段解决这些问题。
AI Agent 架构：生产环境中真正有效的方案
88% 的 AI Agent 项目从未进入生产阶段。失败的原因几乎从来不是模型本身，而是周边的架构。本文深入剖析了五层 Agent 技术栈、四层记忆模型、编排与路由的权衡，以及导致 94% 生产环境失败的七种模式。
生产环境中的 LLM 护栏：哪些方法真正奏效
一份关于 LLM 护栏的实用工程指南：涵盖分层输入/输出验证、误报累积的原因、串行与并行执行的权衡，以及如何在生产环境中监控重要指标。
生产级 AI Agent 的记忆架构
深入剖析生产级 AI Agent 的记忆架构——涵盖情景记忆、语义记忆和图记忆类型，探讨检索中的准确性/延迟权衡，以及目前所有框架都尚未解决的陈旧性问题。
AI 2041：通往十个未来的旅程
《AI 2041》呈现了十个由人工智能塑造的现实未来场景，将引人入胜的叙事与顶尖专家的分析见解相结合。这次探索揭示了近期人工智能发展将带来的深远社会影响。
微调 vs. 提示工程：生产级 LLM 的决策框架
一个实用的框架，帮助你决定何时对你的 LLM 进行微调或提示工程——涵盖成本权衡、LoRA/QLoRA、模型蒸馏，以及每个 AI 团队在投入训练前都应回答的六个诊断问题。
生产环境中的提示工程：真正重要的是什么
让演示令人印象深刻的提示技术，往往不是那些能让生产系统保持可靠的技术。以下是在大规模交付 LLM 功能时真正重要的事项。
多智能体 LLM 系统为何失败（以及如何构建不失败的系统）
多智能体 LLM 系统在生产环境中 41% 至 87% 的时间会发生故障——其中 79% 的故障源于协作和规范问题，而非模型质量。本文将介绍故障分类及其应对设计。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
