专业知识悬崖:AI 编码智能体为何在成熟代码库中失效
AI 编码智能体在全新代码上能带来真实的速度提升——但在成熟系统中却悄然积累损害。核心差距在于隐性知识:那些存在于工程师脑中却从未进入代码库的未记录约束、被否决的替代方案以及架构决策依据。
推理集群:将SRE规范应用于多供应商LLM依赖管理
生产AI技术栈如今横跨多个供应商、微调端点和自托管模型。管理它们需要SRE风格的集群纪律:服务目录、按供应商的SLO追踪、容量规划以及清晰的所有权模型。
长对话中的意图漂移:为什么你的智能体目标表征会失效
在长会话中,用户意图会发生偏移,而累积的上下文往往将其平铺为单一的静态目标。本文将探讨智能体如何被早期信号锁定、误将纠正视为澄清,以及应对这些问题的策略。
隐形的交接:为什么生产环境中的 AI 故障集中在组件边界上
大多数生产环境中的 AI 故障并不是发生在模型内部,而是发生在不可见的缝隙中 —— 即一个组件的输出变成另一个组件输入的交界处。本文将探讨如何发现并强化这些边界。
LLM 分类器的生产实践:为什么准确率是错误的指标
准确率本身并不能预测基于 LLM 的分类器能否在生产环境中存活。真正的约束在于校准性、分类别指标、延迟 SLO,以及揭示生产就绪性的测试模式。
模型路由中的 20% 问题:当成本优化产生二等用户时
经过成本优化的 LLM 路由正悄然在特定用户群体间造成质量差距。了解为什么那 20% 被升级处理的查询并非随机分布,如何按用户分层审计路由层级,以及如何设计带有公平性约束的策略。
权限感知检索:企业 RAG 的访问控制必须在向量层
大多数企业 RAG 系统在应用层执行访问控制——结果就是机密文档不断泄露给无权查看的用户。以下是安全机制必须下沉至检索层本身的原因。
系统提示的措辞决定智能体的风险偏好
收益框架与损失框架的提示词在决策边界处会产生可测量的不同智能体行为。本文探讨这对你编写系统提示意味着什么。
Provider 行为指纹:模型切换中的隐性损耗
切换 LLM Provider 会以能力基准测试永远无法发现的方式破坏生产环境——包括拒绝语气、JSON 序列化怪癖、空白字符约定以及上下文退化曲线,而你的代码库早已悄悄依赖这些行为。以下是如何在迁移前将这些隐性契约暴露出来的方法。
发布顺序问题:为什么同时部署模型与基础设施变更会破坏可观测性
在同一次发布中同时扩大上下文窗口、升级模型版本和更改批处理大小,会将调试问题变成无法解决的调试难题。以下是保持 AI 系统可读性的顺序化纪律。
隐形算力税:为何你的 AI 推理账单远超用户实际所需
主动生成、后台摘要以及提前的上下文准备会消耗推理预算,而用户却从未看到这些输出。本文将介绍如何衡量这些浪费并停止为此买单。
过时的工具描述是 AI Agent 最大的隐形故障诱因
工具模式(Schemas)会随着时间的推移与其实现发生偏离,使过时的描述成为隐形故障的诱因。以下是防止这种情况的工程规范。