Page 111
12 articles没人会写的 AI 系统 On-Call 运维手册
当故障模式是概率性的模型行为而非服务崩溃时，传统的 SRE 运维手册就会失效。本文将探讨 LLM 驱动系统的事故响应究竟是怎样的，以及哪些信号值得告警。
端侧 LLM 推理：何时将 AI 迁出云端
一个关于端侧 LLM 推理何时优于云端 API 的实用决策框架 —— 涵盖隐私需求、成本计算、质量权衡以及那些无人预警的部署难题。
如何在不破坏学习路径的前提下，让工程师快速上手 AI 生成的代码库
AI 编程工具虽然加快了功能交付，但也在无形中削弱了新工程师通过阅读代码建立系统直觉的能力。本文将探讨如何在不降低交付速度的情况下，恢复学习机制。
试点坟场：为什么企业级 AI 落地在演示后会失败
88% 的企业级 AI 试点从未进入生产阶段。问题不在于模型 —— 而是在演示之后发生的一切。本文将从从业者的角度拆解，为什么那些引人入胜的 POC 会止步于 12% 的 WAU，以及如何修复这一问题。
产品工程师必读的训练后对齐：RLHF、DPO 和 RLAIF 对你究竟意味着什么
RLHF、DPO 和 RLAIF 不仅仅是研究领域的缩写 —— 它们决定了你今天记录的用户反馈会成为训练资产还是仅仅是噪音。以下是产品工程师需要了解的内容。
预训练的阴影：你的微调计划忽视的隐性约束
微调改变的是模型说话的方式，而非其根本知识或信念。以下是研究所揭示的实践者不断触碰的上限——以及如何绕过它。
AI 功能定价：工程团队总是跳过的单位经济学框架
可变推理成本打破了固定价格 SaaS 的基本假设。本文提供一套实用框架，涵盖按工作流成本建模、重度用户补贴测算，以及在用量扩大时维持利润率的用量上限设计。
Prompt Cache 盈亏平衡点：提供商端前缀缓存何时真正划算的精确数学计算
Prompt caching 宣称在缓存命中时可提供 90% 的折扣，但由于存在写入溢价，低命中率可能导致你支付的成本比完全不使用缓存还要高。本文将为你提供精确的数学计算和会话架构决策建议，帮助你判断是否能真正获得这一折扣。
Prompt 金丝雀：你的 AI 团队缺失的部署原语
代码金丝雀部署可以捕捉崩溃和延迟回归 —— 但它们无法察觉真正损害 LLM 系统的行为失效。这里有弥补这一差距的指标栈、部署清单模式以及自动回滚设计。
每日十万请求下的提示注入检测：为何简单防御失效，以及真正有效的方法
静态过滤器和 LLM 判断方法在高吞吐量下均会失效。这是在 200ms 延迟预算内真正能拦截提示注入的分层分类器架构。
提示词-模型耦合陷阱：为何你的提示词只会说一种模型的「方言」
精心调优的提示词会悄然积累对特定模型行为的依赖——JSON格式化怪癖、指令层级、拒绝阈值——这些依赖在迁移日才会爆发。本文介绍如何构建可移植性测试框架并编写低耦合提示词。
LLM 输出的基于属性的测试：发现你的评估集从未想过的 Bug
精心策划的评估集仅编码了你预想到的失败模式。基于属性的测试通过生成数千个对抗性输入变体，来发现测试套件在结构上无法触及的领域边界处的 Bug。
关于 Tian Pan
我是 Tian Pan，一名工程师型创始人，专注于智能体工程——构建自主 AI 系统并扩展工程团队。我撰写关于系统设计、技术领导力和 AI 智能体实战的实用指南。曾在 Uber、Brex 和 IoTeX 担任早期工程师。
