Page 60
12 articles静默量化：为什么你今天付费的模型不再是上个季度购买的那个
随着推理经济效益的收紧，供应商在相同的模型名称下悄悄切换到了精度更低、成本更廉价的层级。本文将探讨为什么版本字符串不再是一份契约，以及用来替代它的探测集、路由层和 SLA 条款。
技能即模块：当你的智能体堆栈需要导入系统时
智能体运行时正在拙劣地重新发明导入系统 —— 名称解析、版本锁定、依赖图和冲突检测，这些都是隐藏在技能生态系统下尚未解决的问题。
何时跳过实时 LLM 推理：异步批处理流水线的生产实践
大多数 LLM 工作负载都适合批处理，但团队默认使用同步调用，因为 API 使其变得简单。本文提供了盈亏平衡分析，以及异步方案在成本和用户体验上优于流式处理的功能类别。
当你的模型具有随机性时，快照测试在撒谎
快照测试假设相同的输入加上相同的代码等于相同的输出。一旦 LLM 调用进入循环，这一契约就会失效，测试套件也会悄然变成一种走过场的“橡皮图章”。本文介绍了取代它的测试分类法。
你的 LLM 网关缺少的长尾容错重试策略
将微服务默认的重试机制应用于 8 秒的 LLM 调用，会显著拉高 P99 延迟，在供应商故障期间白白消耗 Token，并掩盖一个用户可见的延迟悬崖，而网关仪表盘对此却毫无察觉。
为什么 Token 预测在上线后会发生偏移 —— 以及如何在财务发现前捕捉到异常峰值
上线前的成本模型假设的是合成流量组合。当功能真正上线，现实情况就会发生偏移。账单是最糟糕的探测器 —— 这里告诉你如何实时捕捉这种偏移。
工具 Schema 设计即是你的爆炸半径：当函数定义成为安全边界
在你的 Agent 可以调用它的那一刻起，工具注册表就不再仅仅是文档了。为什么每个参数类型都是一种安全控制，以及如何设计能够抵御提示词注入的 Schema。
双钟问题：当模型供应商的迭代节奏打乱你的路线图
AI 供应商每季度都会发布能力跃迁，而产品路线图的规划周期通常为 6 到 12 个月。这种不匹配会让路线图变成过时的“陈列品” —— 本文介绍了一种能够紧跟节奏的规划结构。
为什么每周会话记录审查优于你的 AI 仪表板
每周花一小时阅读生产环境的会话记录，可以发现提示词漂移、未分类的意图以及被仪表板平均值掩盖的敷衍措辞。本文将介绍如何主持会议、参会人员、采样方法，以及使其可持续发展的隐私规范。
Abandon 原语：为什么你的智能体循环需要一个一等公民的方式来终止计划
大多数智能体框架都提供了 continue、return 和 retry，但却没有一种一等公民的方式来抛弃一个注定失败的计划。这种缺失的原语能将浪费的预算转化为转机。
Agent IAM 不等于 Service IAM：为什么当意图在运行时构建时 OAuth 会失效
OAuth 和 IAM 是为具有稳定意图的调用者设计的。Agent 的意图是在运行时根据提示词、检索到的文档和工具输出构建的 —— IAM 层永远看不到决定调用内容的大部分输入。
为什么你的 AI 路线图不应该有 12 个月的计划
前沿模型的能力每 90 天就会发生更替。一份为期 12 个月的功能路线图会让你陷入过时的博弈中。请将其替换为具有明确终止标准的能力组合。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
