你的智能体没读过的那条休假自动回复
大多数智能体堆栈按姓名而不是按角色呼叫真人 —— 一旦有人休 PTO,智能体就会和自动回复对打,直到值班同事注意到。
MCP Server 蔓延:无人监管的无边界工具表面
每个团队都在接入另一个 MCP Server,Agent 的工具表面在没有负责人、没有预算的情况下不断扩大,且每一轮对话都要支付 Token 税。本文探讨这种蔓延如何破坏选择准确性,以及什么样的策展纪律可以修复它。
Token 预算是产品决策,而非配置值
设置上下文窗口分配(历史记录 vs 检索结果 vs 工具输出)的那行代码,是隐藏在 f-string 中的产品决策。本文将介绍如何将其显性化、衡量它,并为其指定负责人。
上下文窗口是公地,而每个团队都在过度放牧
Agent 的上下文窗口是一种共享的、可耗尽的资源,且缺乏分配机制。本文将探讨为什么单个功能的增加在局部是合理的,但在全局却是毁灭性的,以及如何通过归因、配额和审计来进行治理。
像入职初级工程师一样入职 AI 智能体是一种范畴错误
初级工程师每周都在积累上下文;而智能体则一无所获。为什么“新员工”这一比喻会分散你的注意力,以及你应该将学习重心放在何处。
Token 预算是调度问题,而非提示词问题
当一个冗长的工具结果耗尽上下文窗口时,智能体的质量就会下降。应像对待操作系统内存一样对待 Token 预算:设置上限,按优先级淘汰,并为推理留出空间。
MCP 能力披露税:当每个连接的服务都在消耗你的上下文窗口
MCP 工具定义在每一轮规划时都会重新加载,每次调用悄然消耗 15-66K 个 token。随着连接的服务增多,这不仅会增加成本,还会降低工具选择的准确度。本文将探讨如何评估这种“披露税”,并通过渐进式披露、单服务成本归因和稳定 schema 来控制开销。
上下文膨胀:你无法用 Grep 搜寻的 AI 内存泄漏
长期运行的智能体对话会悄无声息地泄露 Token —— 二次增长的成本和性能下降隐藏在对话历史中。本文介绍如何监控、修剪和压缩上下文。
首个Token在撒谎:为什么上下文加载——而非推理——才是AI功能延迟的真正瓶颈
AI功能的感知速度在模型生成第一个Token之前就已决定。上下文预热——预加载用户历史、预热嵌入缓存、投机性获取工具Schema——才是真正影响首Token时间的工程纪律。
上下文压缩失真:你的摘要中间件在悄悄丢失什么
上下文摘要是应对上下文限制的标准方案——但它会以不均匀的方式破坏信息。否定表达、精确数字、条件依赖关系和工具输出归因最先消失。以下是从业者需要了解的内容。
上下文长度军备竞赛:为什么填满窗口是错误的目标
每个大模型新版本发布时都会宣传更大的上下文窗口。但实践者正在发现,填满窗口会降低质量、增加延迟并消耗预算——而稀疏、精心筛选的上下文始终优于朴素的堆砌方式。
上下文窗口是一个 API 界面:像对待合约一样对待你的提示词结构
为什么将上下文窗口布局视为正式的 API 合约——通过命名槽位、版本控制和 Diff 友好结构——能使 LLM 系统更易于调试和维护。