Token 预留容量：被人们忽略的、尚未从云时代迁移过来的预留实例决策
预置吞吐量和承诺使用折扣让你能像以前预留 EC2 一样预留 LLM 推理资源 —— 但盈亏平衡点比你想象的要高，而且你的承诺可能会因为模型弃用而陷入困境。这里是移植过来的实战手册，以及其中一个危险的变数。
影子智能体：法务在事故复盘中才发现的 AI 功能
一个能够读取客户数据并采取行动的未经授权 AI 智能体，比任何违规的 SaaS 订阅都更令人震惊。本文探讨影子智能体是如何潜入生产环境的，为什么你现有的控制措施会失效，以及如何在数据泄露发生前发现它们的轻量级治理方案。
评分了每一轮对话却错过了整个交流：聊聊多轮评估的陷阱
95% 的单轮准确率并不意味着 95% 的会话都能成功。本文将探讨为什么平均单轮得分会掩盖复合失败，以及如何转而对整个对话进行评估。
测试无法察觉却破坏了一切的模型升级
你迁移到了更新的模型，所有评估都通过了，延迟也降低了，但支持工单却不断增加。本文将探讨这类能够绕过所有断言的回归问题，以及如何在用户发现之前捕捉到它们。
嘈杂邻居竟是你：当失控的 Agent 让共享账户中的其他人全都触发 429 错误
共享的模型账户拥有一个全组织范围的 Token 预算，任何未限速的批处理作业都可能让其他团队的生产流量陷入饥饿。本文将探讨为什么基于组织的限制会让 Agent 成为一种“共担命运”的资源，为什么仅靠退避机制会引发惊群效应，以及哪些隔离模式行之有效。
没有根本原因的事后分析
“五个为什么”事件回顾假设存在一个模型并不具备的确定性原因。本文将介绍如何编写一份真实的 LLM 事后分析报告，它建立在故障率增量和促成因素堆栈之上，而非寻找单一的根本原因。
Prompt 缓存悬崖：一次系统提示词修改如何重置你的整个集群成本
在系统提示词顶部进行的一行修改可能会瞬间导致所有缓存前缀失效，使你的缓存命中率降至零，并让推理账单在隔夜之间翻倍 —— 本文将探讨其背后的原因，以及如何构建提示词结构以防止这种情况发生。
没有预发布模型的预发布环境
托管模型是你无法建立忠实预发布副本的唯一依赖项。本文将探讨为什么 LLM 的预生产一致性会失效，以及版本固定、重放、黄金转录和影子流量如何分别只能填补部分差距。
你的 AI 账单只是一个未标记的行项目：当 Token 拒绝被标记时的 FinOps
模型 API 按 Key 和时间计费，而不是按功能或客户计费，因此你的 AI 支出最终只是一个未标记的行项目。本文将探讨为什么 Token 成本难以像云资源那样进行标记，以及在调用时应如何进行埋点以解决这一问题。
你模型的置信度分数只是一种感觉，而非概率
LLM 自我报告的置信度并非概率 —— 它只是受 RLHF 激励机制影响而产生的流畅 Token。本文将探讨为什么校准是你从未衡量过的特性，以及你应该转而使用什么进行门控。
智能体输出的验收抽样：制造业质量保证领先于代码审查的秘诀
智能体每周交付数百个 PR，而其中大多数完全没有经过审查。制造业在一个世纪前就通过验收抽样解决了这个问题——利用 AQL 表、批次拒收和转移规则，将对智能体的信任从“凭感觉”转变为明确且可衡量的制度。
Best-of-N 是一种架构，而不仅仅是打榜技巧
在一个答案背后运行 N 个并行尝试，往往比大模型的单次输出效果更好——前提是你设计好了评判器，去除了失败的相关性，并根据利害关系设定了 N 的预算。本文涵盖了成本计算、选择器的偏见问题以及“自信的错误者”现象。