Page 47
12 articles上下文压缩失真：你的摘要中间件在悄悄丢失什么
上下文摘要是应对上下文限制的标准方案——但它会以不均匀的方式破坏信息。否定表达、精确数字、条件依赖关系和工具输出归因最先消失。以下是从业者需要了解的内容。
上下文长度军备竞赛：为什么填满窗口是错误的目标
每个大模型新版本发布时都会宣传更大的上下文窗口。但实践者正在发现，填满窗口会降低质量、增加延迟并消耗预算——而稀疏、精心筛选的上下文始终优于朴素的堆砌方式。
上下文限制是一个 UX 问题：为什么静默截断会侵蚀用户信任
当 LLM 为了给新 Token 腾出空间而静默丢弃早期的上下文时，用户看不到错误提示 —— 他们看到的是一个困惑的 AI。这是一个产品设计上的失败，而非模型本身的失败。
上下文窗口是一个 API 界面：像对待合约一样对待你的提示词结构
为什么将上下文窗口布局视为正式的 API 合约——通过命名槽位、版本控制和 Diff 友好结构——能使 LLM 系统更易于调试和维护。
对话感知的速率限制：为什么逐请求限流会破坏多轮 AI
逐请求 API 限流将每次对话轮次视为独立调用，但一个 10 轮的调试会话在架构上是一个完整任务。会话预算、语义去重和优雅降级才是正确的原语——原因如下。
数据飞轮假说：AI 功能是在产生复利，还是在堆积噪声？
大多数团队认为更多的交互数据会自动让他们的 AI 变得更好。事实并非如此。本文将探讨是什么让真正的复利飞轮区别于昂贵的日志文件。
数据敏感级别模型路由：管控哪个模型能看到哪些数据
大多数 AI 路由决策以成本和延迟为优化目标。但数据的隐私分类同样应当驱动路由——忽视这一点会埋下静默的合规违规，只有在审计时才会浮出水面。
智能体的死信：当没有智能体能完成任务时该怎么办
消息队列通过死信队列解决了消息卡顿的问题。智能体系统也面临同样的问题，但其失败模式更加丰富 —— 本文将介绍如何适配这一模式。
生产环境中的扩散模型：演示之后无人讨论的工程栈
大规模运行扩散模型会暴露演示中被忽略的硬性约束：GPU 显存上限、LoRA 热插拔架构、用于水印和 NSFW 审核的合规栈，以及自托管成本优于任何 API 层的业务量拐点。
端到端延迟并非你的 LLM 调用 P99：代理系统中无人衡量的隐藏乘数
为什么你的 LLM API 调用的 P99 延迟几乎无法反映用户在多步代理工作流中的真实体验 —— 以及填补这一差距的隐藏乘数。
嵌入微调差距：通用向量并不理解你特定领域的“相关性”含义
现成的嵌入模型针对语义相似度而非领域相关性进行优化。了解如何通过带有难负样本的对比微调、合成训练数据以及适当的 A/B 测试评估，来弥合基准测试分数与实际检索质量之间的差距。
智能体链中的认知信任：不确定性如何在多步委托中累积
当编排器将任务委托给子智能体并接受其答案时，它同时继承了该智能体的错误。本文探讨认知信任与授权信任的区别、置信度为何会在智能体切换中危险地叠加，以及真正能解决这一问题的设计模式。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
