P99 是产品决策,而非基建决策
你的尾部延迟目标并不是基建团队单纯优化出的一个数字 —— 这个数字本身就是一个产品选择。本文探讨了 UX 交互设计与延迟预算如何相互权衡,以及为什么 P99 应该出现在设计评审中。
Agent 循环从搜索框偷走的延迟预算
将 200 毫秒的搜索调用换成 4 秒的 Agent 循环,延迟预算并没有消失 —— 它从基础设施迁移到了 UX。如果团队没有捕捉到这种交接,就会在交付一个指标更好但实际体验更差的产品。
延迟预算博弈:如何告诉产品经理“实时性”是有能力代价的
一种在延迟目标成为正式承诺前与产品进行谈判的结构化方法——包含转换表、“三选二”框架,以及为什么 TTFT 通常是真正关键的指标。
AI 内容过滤器的双边成本:过度拒绝同样是业务问题
AI 内容过滤器通常被调整为尽量减少漏报,同时忽视误报——但拦截合法用户同样有可量化的业务损失。本文介绍如何正确校准这两类错误。
人格叠加(Persona Overlays):当一个智能体需要为不同客户群提供多种声音时
为跨群组的客户群发布单一的智能体人格正在悄无声息地消耗你的续订率。解决方案是叠加(overlays)而非分支(forks)——以及能够捕捉到被聚合评分所掩盖的性能倒退的切片级评估。
置信度描述而非评分:为什么 0.87 的徽章无法打动任何人
一个 0.87 的置信度徽章不会改变任何用户行为。而一个说明模型未检查内容的自然语言对冲表述则能起到很大作用。本文探讨了为什么概率评分是错误形式的信号,以及如何将不确定性作为内容而非 UI 叠加层来发布。
方差正在吞噬实验:为什么传统的 A/B 测试功效计算不适用于 LLM 功能
经典的 A/B 测试数学模型假设每个用户的行为是确定的。LLM 功能两次打破了这一假设,导致标准的样本量模板在两个方向上都给出了错误的判断 —— 本文介绍了修复这一问题的四个转变。
按功能计费,而非按 Token 计费:AI 预算分配中的缺口
每个端点的 Token 支出掩盖了哪些 AI 功能在赚钱。将推理追踪与产品遥测相结合的打标规范,能将定价、准入控制和功能废弃的决策从“凭感觉”转变为“看数据”。
AI 功能退役指南:如何在不破坏用户体验的情况下下线智能体
关闭 AI 功能与废弃确定性 API 有本质的不同。这份工程指南涵盖了映射行为依赖、分阶段下线以及避免支持工单雪崩的方法论。
Temperature 是产品决策,不是模型旋钮
LLM temperature 控制输出方差——而这种方差直接影响用户信任、参与度和行为。大多数团队将其视为技术默认值,但其实并非如此。
用户适配陷阱:为什么回滚 AI 模型会导致两次破坏
当模型更新引入了细微的错误行为时,用户会围绕它调整工作流程。当你发现并回滚时,你可能最终会得到两组被“破坏”的用户,而不是一组。
聊天机器人、Copilot 还是 Agent:改变你架构决策的分类学
选错 AI 交互范式——聊天机器人、Copilot 还是 Agent——会造成无法靠调整提示词来修复的架构债务。本文深入分析应在写下第一行代码之前就驱动这一决策的信任模型、上下文窗口策略和错误恢复需求。