Page 107
12 articlesAI 驱动型 API 的行为 SLA：为非确定性输出编写协议
当你的 API 封装了 LLM 时，传统的 SLA 就会失效。学习如何定义行为协议 —— 包括格式保证、拒绝率、延迟 p95、幻觉预算 —— 以及如何在不破坏用户体验的情况下，对行为变更进行版本管理和沟通。
浏览器原生 LLM 推理：你不知道自己需要的 WebGPU 工程化实践
通过 WebGPU 在浏览器中直接运行 LLM 将改变你的整个应用架构。本文将探讨其实际的能力上限，以及在哪些场景下混合路由方案优于纯云端方案。
Monorepo 中的编程智能体：为什么上下文窗口与 50 个服务的代码库无法兼容
编程智能体在大型 Monorepo 中遇到了硬伤：任何跨服务更改的相关代码所跨越的包，都超出了任何上下文窗口的承载能力。本文将探讨实际有效的解决方案。
AI 产品中的冷启动陷阱
AI 功能需要用户数据才能运作，但又需要运作良好才能吸引用户。这里介绍了如何在不浪费数月时间进行机器学习研发的情况下，在你的产品赢得这一权利之前跳出冷启动陷阱。
置信度-准确率倒置：为什么大语言模型在听起来最确信的地方往往最容易出错
前沿大语言模型在用户最信任的领域表现出最差的校准性。本文介绍如何量化这一问题，并构建能在真实损害发生前处理过度自信错误答案的系统。
AI生成内容中的版权风险：工程团队实用框架
LLM输出可能复现训练数据中的逐字内容，而输出责任可能落在你身上——而非模型提供商。一套用于衡量版权风险、实施切实有效的管控措施，以及理解提供商赔偿局限性的实用工程框架。
全球化 AI 产品的文化校准：为什么翻译只解决了 10% 的问题
LLM 精通数十种语言，但往往仅针对一种文化进行了校准。本文将探讨翻译所忽略的内容，以及如何通过工程手段解决这一问题。
数据库连接池：AI 流水线中被忽视的性能瓶颈
AI 工作负载打破了标准连接池容量规划的所有假设。本文梳理背后的数学原理、常见故障模式，以及真正有效的解决方案。
Agent 链中的截止时间传播：第三跳时你的 p95 SLO 发生了什么
用户可见的延迟约束在穿越多步 agent 管道时悄然消失。本文剖析这一结构性问题，分析主流框架的处理方式（并不理想），以及能真正解决问题的截止时间传播模式。
演示到生产的失败模式：为什么AI原型在真实用户到来时会崩溃
演示使用精心挑选的输入、预热缓存和有耐心的评估者。生产环境面对的是对抗性查询、分布偏移的请求以及8秒内就会放弃的用户。以下是缩小差距的预发布方法论。
废弃 API 陷阱：为何 AI 编码智能体在库更新后频频失效
LLM 会自信流畅地生成引用已不存在 API 的代码。本文分析其根本原因、如何度量问题严重性，以及真正有效的多层防御策略。
Agent 流水线的分布式追踪：为什么你的 APM 工具形同虚设
标准 APM 工具在多步骤 Agent 流水线上会失效。以下是 AI Agent 专用可观测性的真正需求——以及三个能在用户察觉之前预判 Agent 劣化的关键指标。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
