AI 泛滥反模式:过度使用 LLM 只会让你的流水线更糟
在流水线的每个环节都加 LLM,是让系统变慢、变贵、难以调试的最快方式。这里是一个决策框架,帮你判断 AI 真正有用的场景,以及什么时候查找表才是正确答案。
AI 功能下线指南:如何在不破坏用户信任的情况下停止 LLM 功能
面向工程师和产品经理的实用指南,介绍如何干净地停用基于 LLM 的功能 —— 涵盖数据生命周期拆解、行为迁移测试、用户信任动态以及沟通策略。
AI 驱动功能的“完工”定义:工程化永恒的 Beta 测试
AI 驱动的功能永远不会进入一个稳定的“完工”状态——模型漂移、现实漂移和预期漂移创造了持续的迭代压力。本文介绍了工程和治理基础设施,如何让“稳定但不断演进”的状态显得更像是高质量的表现,而非未完成。
AI基础设施碳核算:你的团队尚未衡量的可持续发展成本
AI推理现在占全球排放量的2.5–3.7%,且每年增长15%。本文介绍如何衡量你的团队的贡献,以及为何这将成为合规问题,无论你是否提前规划。
AI 轮值:当你的系统在“思考”时,该针对什么发告警
如何为非确定性 AI 系统设计告警,AI 事件与传统故障的区别,以及在凌晨 2 点能真正帮到轮值工程师的 Runbook 结构。
AI 产品指标陷阱:当参与度看起来像价值却并非如此
团队如何在追踪会话数量和完成率的同时,错过了真正能预测价值的指标——以及为何 AI 功能上线后头 30 天的数据几乎总是具有误导性。
AI 接班人计划:当了解提示词的团队离开时会发生什么
当编写你的系统提示词的工程师离职时,每个措辞背后的推理过程也随之而去。以下是如何构建能够应对人员变动的 AI 系统的方法。
环境 AI 架构:设计不会被用户关掉的常驻智能体
大多数环境 AI 功能在上线两周内就会被用户关掉——不是因为模型不好,而是因为打扰阈值设置错误。本文提供一套防止这种情况发生的架构与 UX 框架。
评估基准真相中的标注者偏差:当你的标签系统性地将你引向歧途
探讨标注者的选择、人口统计学特征以及系统性错误模式是如何在训练开始前就破坏你的评估基准真相的,并介绍捕获这些问题的审计方法论。
AI 驱动型 API 的行为 SLA:为非确定性输出编写协议
当你的 API 封装了 LLM 时,传统的 SLA 就会失效。学习如何定义行为协议 —— 包括格式保证、拒绝率、延迟 p95、幻觉预算 —— 以及如何在不破坏用户体验的情况下,对行为变更进行版本管理和沟通。
Monorepo 中的编程智能体:为什么上下文窗口与 50 个服务的代码库无法兼容
编程智能体在大型 Monorepo 中遇到了硬伤:任何跨服务更改的相关代码所跨越的包,都超出了任何上下文窗口的承载能力。本文将探讨实际有效的解决方案。
AI 产品中的冷启动陷阱
AI 功能需要用户数据才能运作,但又需要运作良好才能吸引用户。这里介绍了如何在不浪费数月时间进行机器学习研发的情况下,在你的产品赢得这一权利之前跳出冷启动陷阱。