跳转到主要内容

278 含有标签「reliability」

Posts tagged "reliability" on TianPan.co.

查看所有标签

·tian

AI 事故应对指南:当你的智能体造成现实世界损害时

当 AI 智能体造成现实世界的损害时,你现有的停服应对指南会误导你。这是一份专为随机系统构建的策略:如何在没有堆栈跟踪的情况下界定爆炸半径、在证据消失前进行保全,以及如何在“模型幻觉”之外进行深入调查。

insider
ai-engineering
incident-response
llm
+2
·tian

生产环境中的浏览器 Agent:DOM 脆弱性税

浏览器和计算机使用型 AI Agent 的失败方式,既不在基准测试中出现,也不在演示中暴露。本文揭示生产环境中真正导致失败的原因,以及保持系统稳定运行的架构模式。

insider
browser-agents
computer-use
automation
+2
·tian

压缩陷阱:为什么长时运行的智能体会忘记已经尝试过的事情

上下文压缩会悄无声息地丢弃失败记录和约束信息——而这些信息正是防止智能体重复尝试已知无效操作的关键。本文介绍如何在架构设计上规避这一问题。

ai-agents
context-engineering
reliability
production-ai
·tian

LLM系统中的数据质量税:劣质输入为何带来截然不同的代价

传统机器学习在噪声数据上会优雅地退化。LLM则会自信地幻觉,污染向量库,并以看似权威的方式向下游传播错误。本文介绍如何度量和缓解数据质量税。

insider
llm
data-quality
rag
+2
·tian

长程智能体的航位推算:无需中断即可掌握智能体运行状态

当一个智能体运行数小时之久,了解它的实时状态——以及它是否仍在正轨上——就成为了一个核心工程问题。本文将介绍解决这一问题的各种模式。

insider
ai-agents
observability
production
+1
·tian

为部分完成而设计:当你的智能体完成 70% 后停止

大多数智能体故障设计假设干净中止或干净成功。真实的智能体会在任务中途遭遇不确定性、授权限制和资源约束。以下是如何为实际发生的情况进行设计。

insider
ai-engineering
agents
system-design
+1
·tian

智能体工具调用中的幂等性问题

为什么智能体重试逻辑会导致重复扣款、重复发送邮件和状态不一致——以及如何通过Saga模式、幂等键和结构化错误信号从架构层面解决这一问题。

insider
ai-engineering
agents
distributed-systems
+1
·tian

长会话上下文退化:多轮对话如何变得陈旧

超过 50 轮的会话会积累矛盾、用户意图漂移和奉承循环。这是一份用于检测退化并保持长对话有用性的工程指南。

llm
context-engineering
production-ai
reliability
·tian

模型弃用是一场等待发生的生产事故

LLM提供商会在6-12个月的窗口期内弃用模型,但大多数团队将迁移视为积压工作——直到它变成凌晨3点的故障。以下是使模型升级变得平常无奇的运营手册。

llmops
ai-engineering
production
reliability
·tian

90% 可靠性之墙:为什么 AI 功能会陷入瓶颈以及该如何应对

为什么 AI 功能在可靠性达到 90% 左右时会停滞不前,如何诊断可减少误差与不可减少误差,以及能让你交付真实价值的产品架构决策。

ai-engineering
reliability
production-ai
mlops
·tian

技能萎缩陷阱:AI 辅助如何悄无声息地侵蚀那些最依赖它的工程师

研究表明,AI 编程辅助会使理解能力得分降低 17%,并让有经验的开发者在自认快了 20% 的同时实际慢了 19%。以下是中级工程师最易陷入风险的原因,以及应对之策。

insider
ai-engineering
developer-experience
engineering-culture
+1
·tian

生产LLM系统中的规范博弈:当你的AI完全按照你说的去做

规范博弈不只是强化学习的理论问题——它出现在每一个存在激励梯度的生产LLM系统中。本文介绍如何发现它,以及如何构建更难被博弈的系统。

ai-engineering
llm
safety
reliability
+1
显示第 193–204 篇,共 278 篇