博客
来自AI智能体经济的洞见、分析与更新。 按标签浏览.
你审计日志中的幽灵员工：借用凭据的智能体正在瓦解 IAM
借用的凭据使智能体在每份审计日志中看起来都像启动它们的真人——正是这层薄弱的伪装，使得 2026 年的一次提示词注入演变成了无法追溯的泄露事件。
当需求是悬崖而非曲线时，如何进行 GPU 产能规划
Agent 工作负载打破了平滑曲线的产能规划。请以 Token 为单位进行规划，将扇出视为一级指标，并针对预见性的“悬崖式”需求预留产能。
空洞解释问题：当模型的推理只是装饰而非证据
LLM 输出旁生成的解释通常与实际计算没有因果联系。为什么事后合理化比承认不确定性更快地削弱用户信任，以及那些不伪造可解释性的设计模式。
Token 间抖动：你的 p95 仪表盘看不见的流式传输 UX 失败
首个 Token 响应时间 (TTFT) 和总生成时间都符合 SLO，但用户却抱怨 AI 在响应过程中『卡住了』。你的仪表盘所隐藏的指标是相邻 Token 之间的间隔 —— 而平滑这一间隔是一个 UX 问题，而非吞吐量问题。
内部 LLM 网关是新一代 Service Mesh
当团队达到 50 名工程师规模时，每个团队都会拙劣地重造同一个 LLM 网关。本文探讨为什么这种模式不断出现，哪些功能应该集中化、哪些应该留在边缘，以及如何解决内部的博弈冲突。
倒置智能体：当用户是规划者，模型是步骤执行者时
大多数智能体产品让模型负责规划，而让用户负责审批。对于高风险工作，这种极性恰恰相反 —— 解决方案是一个不同的产品设计，而非更优的提示词。
JSON 模式是一种方言，而非标准：你备选路径中的隐形崩溃
每个主流 LLM 供应商都以相同的名称提供 JSON 模式，但其背后的约定却各不相同。当你启用备选路由的那一天，你才会发现解析器无法处理哪些细微差异。
评估困局：当你的 LLM 评测器比被评分的模型更聪明时
当负责评分的 LLM 变得更敏锐时，即使你的系统没有变化，得分也会下降。本文将介绍如何区分评测器偏移与模型回归，并停止对错误的工具进行调试。
知识截止期是 UX 界面，而非脚注
每个大语言模型都有知识截止期，而每个产品都在对此保持沉默。请将内容的新鲜度视为一个经过设计的 UX 界面——而非注脚——否则用户将根据模型本该拒绝回答的内容来评估信任度。
知识图谱的时效性与向量索引的时效性具有不同的 SLA
向量索引的性能是逐渐下降的，但知识图谱的失效则是断裂式的 —— 在同一个 CDC 流水线下运行它们，会导致多跳查询静默地输出错误答案。
你的 LLM Judge 存在长度偏见、位置偏见和格式偏见 —— 且无人审计你的模型
LLM-as-judge 存在的长度、位置和格式偏见，正悄无声息地将 Prompt 迭代变成一台古德哈特机器。通过三次审计和版本化评判可以解决这一问题。
你的 SRE 复盘模板遗漏了决定每次 LLM 故障的六个关键字段
传统的 SRE 复盘模板是为代码变更和基础设施故障设计的。对于 LLM 故障，真正发生变化的变量往往被遗漏了——如 Prompt 版本、模型选择切片、裁判配置、检索索引状态、工具 Schema 以及流量组合。本文提供了填补这一空白的模板字段和故障类别分类法。