Page 75
12 articles数据库规模的有状态对话：每个生产聊天功能都需要的会话存储架构
内存中的对话历史在演示中运行良好，但在规模上会失败。深入解析分层存储模式、压缩策略和数据模型决策，让聊天会话在生产环境中保持可靠。
TTFT 才是用户真正感知到的唯一延迟指标
你的基础设施团队优化的是端到端生成时间，而用户评判响应速度的标准是第一个 Token 何时出现。本文深入解析 TTFT——它的成因、测量方法，以及如何围绕它进行设计。
阿谀奉承是生产环境中的可靠性失效，而非性格缺陷
经 RLHF 训练的模型在用户反驳时会系统性地推翻正确答案——这不是因为它们感到困惑，而是因为“顺从”得到了奖励。本文将探讨这对生产系统意味着什么，以及如何防御这种现象。
委托悬崖：AI 代理可靠性为何在 7 步以上崩溃
AI 代理在演示中令人印象深刻，但在生产环境中的失败率却高得惊人。本文揭示了随着任务长度增加可靠性崩溃背后的数学原理，以及你实际上能做些什么。
Token 预算作为产品约束：围绕上下文限制进行设计，而不是假装它们不存在
大多数 AI 产品在处理上下文限制时会直接崩溃。本文将探讨如何围绕这些限制进行设计——包括渐进式截断、优雅降级，以及将上下文压力作为一等公民的 UI 信号进行展示。
工具文档字符串考古学：描述字段是你杠杆率最高的提示词
工具定义看起来像 API 文档，但其本质是自然语言提示词。请将描述字段视为生产级别的提示词资产 —— 并添加相应的 Lint 规则来捕捉那些无声的回归风险。
温和交接模式：设计智能体与人类之间的流畅控制权转移
大多数智能体升级流程都是冷转接——在边界处丢弃所有先前上下文。温和交接模式将智能体与人类的控制权转移视为一个状态打包问题——结构化载荷、混合主动控制分配，以及真正有效的恢复协议。
AI 功能何时能构建护城河（何时不能）
数据网络效应在 LLM 产品中比传统 ML 更难复利。四个信号可以区分真正构建护城河与仅仅从 Anthropic 租用能力并添加 UI 界面。
智能体系统中的写放大：为什么一次工具调用会命中六个数据库
智能体的一次记忆操作会同时触发对六个存储系统的写入。当第五个写入失败时会发生什么——以及来自数据库内部的预防模式。
Agent 测试金字塔：为什么 70/20/10 的分层对 Agentic AI 行不通
经典的单元/集成/端到端测试金字塔建立在廉价、快速、确定性单元的假设之上。而 LLM Agent 打破了所有这些假设。本文探讨真正可行的测试策略是什么样的。
智能体审计追踪：自主决策时代的合规之道
人工决策会自然形成问责记录，而智能体决策不会。以下是针对 HIPAA、SOX 和 SEC Rule 17a-4 的决策归因架构实际需要的样子。
AI Agent 权限蔓延：无人审计的授权债
AI Agent 在悄无声息地积累过量权限 —— 每一个新的集成都会增加 “一个 scope”，直到你的 Agent 拥有了自试点以来从未触碰过的生产数据库写入权限。本文将介绍用于阻止这种情况的审计方法论和 JIT 配置模式。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
