AI 事故应对指南:当你的智能体造成现实世界损害时
当 AI 智能体造成现实世界的损害时,你现有的停服应对指南会误导你。这是一份专为随机系统构建的策略:如何在没有堆栈跟踪的情况下界定爆炸半径、在证据消失前进行保全,以及如何在“模型幻觉”之外进行深入调查。
生产环境中的浏览器 Agent:DOM 脆弱性税
浏览器和计算机使用型 AI Agent 的失败方式,既不在基准测试中出现,也不在演示中暴露。本文揭示生产环境中真正导致失败的原因,以及保持系统稳定运行的架构模式。
压缩陷阱:为什么长时运行的智能体会忘记已经尝试过的事情
上下文压缩会悄无声息地丢弃失败记录和约束信息——而这些信息正是防止智能体重复尝试已知无效操作的关键。本文介绍如何在架构设计上规避这一问题。
LLM系统中的数据质量税:劣质输入为何带来截然不同的代价
传统机器学习在噪声数据上会优雅地退化。LLM则会自信地幻觉,污染向量库,并以看似权威的方式向下游传播错误。本文介绍如何度量和缓解数据质量税。
长程智能体的航位推算:无需中断即可掌握智能体运行状态
当一个智能体运行数小时之久,了解它的实时状态——以及它是否仍在正轨上——就成为了一个核心工程问题。本文将介绍解决这一问题的各种模式。
为部分完成而设计:当你的智能体完成 70% 后停止
大多数智能体故障设计假设干净中止或干净成功。真实的智能体会在任务中途遭遇不确定性、授权限制和资源约束。以下是如何为实际发生的情况进行设计。
智能体工具调用中的幂等性问题
为什么智能体重试逻辑会导致重复扣款、重复发送邮件和状态不一致——以及如何通过Saga模式、幂等键和结构化错误信号从架构层面解决这一问题。
长会话上下文退化:多轮对话如何变得陈旧
超过 50 轮的会话会积累矛盾、用户意图漂移和奉承循环。这是一份用于检测退化并保持长对话有用性的工程指南。
模型弃用是一场等待发生的生产事故
LLM提供商会在6-12个月的窗口期内弃用模型,但大多数团队将迁移视为积压工作——直到它变成凌晨3点的故障。以下是使模型升级变得平常无奇的运营手册。
90% 可靠性之墙:为什么 AI 功能会陷入瓶颈以及该如何应对
为什么 AI 功能在可靠性达到 90% 左右时会停滞不前,如何诊断可减少误差与不可减少误差,以及能让你交付真实价值的产品架构决策。
技能萎缩陷阱:AI 辅助如何悄无声息地侵蚀那些最依赖它的工程师
研究表明,AI 编程辅助会使理解能力得分降低 17%,并让有经验的开发者在自认快了 20% 的同时实际慢了 19%。以下是中级工程师最易陷入风险的原因,以及应对之策。
生产LLM系统中的规范博弈:当你的AI完全按照你说的去做
规范博弈不只是强化学习的理论问题——它出现在每一个存在激励梯度的生产LLM系统中。本文介绍如何发现它,以及如何构建更难被博弈的系统。