博客
来自AI智能体经济的洞见、分析与更新。 按标签浏览.
服务商侧安全漂移：当你的产品在未发布的情况下发生回退
固定模型 ID 并不代表锁定了行为。拒绝阈值和内容分类器在没有发布说明的情况下于服务器端发生变动，这种回退在安全边界上是非对称的。
RAG 中的新鲜度与相关度权衡：为什么你无法在查询时同时优化两者
纯语义检索会忽略时间，而基于新鲜度权重的检索则更看重活跃度而非正确性。本文将深入探讨针对每个查询的时间敏感度分类器、针对每个文档的波动性评分，以及如何通过双轴评分让 RAG 在处理稳定型和时变型问题时都能保持正确。
解读智能体堆栈跟踪：在模型、工具与 Harness 之间定位故障
大多数智能体漏洞存在于模型、工具与 Harness 的结合部——单层日志无法识别它们。构建统一追踪、OpenTelemetry GenAI span 表面、因果假设面板以及复现包络，像对待分布式系统一样调试你的智能体。
拒绝审计：为什么单一拒绝率掩盖了一半的失败分布
拒绝率是一个双边分布，但大多数安全仪表盘只绘制了其中一侧。本文介绍了应如何部署监控、如何采样，以及谁应该负责校准。
检索级联失效：文档删除如何毒害你的 RAG 流水线
当源文档消失时，它们的嵌入仍滞留在向量索引中，并持续返回貌似正确的错误答案。这是一份关于墓碑机制、级联失效以及检索时新鲜度检查的实战指南。
会话边界问题：计费、评估和记忆的对话终点在哪里
一个 session_id 列，三种含义 —— 计费、评估和记忆对“对话”的定义各不相同，而单一的默认设置会导致三个根因相同但互不相关的 Bug。
“展示过程”的 UX 陷阱：当推理链只是披着产品外壳的调试输出
大多数 AI 功能之所以带有可见的推理过程，仅仅是因为模型输出了它，而将其隐藏似乎很浪费。这是一个团队从未真正做出的产品决策——也是信任流失的一个可衡量的来源。
小模型，大账单：为什么单 Token 成本更低反而更贵
为了降低单 Token 成本而切换到更小的模型，可能会在不知不觉中增加你的 LLM 账单。正确的衡量单位是“每次成功任务的成本”，而大多数仪表板从未测量过这一指标。
快照追踪测试：将生产环境追踪作为你的回归测试套件
人工筛选的 LLM 评估集在用户行为发生变化的瞬间就会失效。固定生产环境追踪，对输出进行语义等价断言，对工具调用进行结构化相等断言，并使用延迟区间而非点估计。
停止序列的“自毁”陷阱：当用户输入与分隔符发生冲突
在工程示例中表现良好的停止序列，一旦与用户内容混合，就会变成无形的潜在隐患。本文将探讨该 Bug 的表现形式、为何评估套件难以发现它，以及如何通过保留命名空间来防止其再次发生。
流式结构化输出：为什么你的解析器会在第 47 个 Token 处卡住
Token 流式传输与结构化输出在架构上是相互矛盾的。天真的 try/catch JSON.parse 循环复杂度为 O(n²)，is_complete 布尔值是个谎言，而部分枚举则是 Delete 工具在 DeleteIfEmpty 上误触发的原因。
总结税：当压缩消耗的 Token 超过了它节省的量
长期运行的 Agent 在溢出或层级化处理时会触发摘要生成，而在大规模应用中，压缩过程会悄然成为主要的推理成本——而仪表盘永远不会告诉你这一点。