跳转到主要内容

348 含有标签「observability」

Posts tagged "observability" on TianPan.co.

查看所有标签

·tian

任务完成率指标变绿,而用户却在默默受苦

94% 的任务完成率仪表板可能一直显示绿色,但与此同时 Agent 正在消耗大量 Token、反复回溯并让用户感到疲惫。为什么完成率是一个错误的指标,以及四个能洞察其盲点的轨迹指标。

ai-agents
observability
evaluation
metrics
·tian

工具的默认参数其实是伪装的策略决策

你的 Agent 跳过的每一个可选参数都会继承你选择的默认值。这些默认值是未经审计的策略 —— 它们在追踪中不可见,在评审中也无人负责。

ai-agents
tool-design
agent-safety
observability
·tian

在智能体交接处中断的分布式链路追踪

你的 Span 树在智能体相互调用之前一直非常清晰 —— 但就在 Bug 发生的地方,追踪突然中断了。本文将探讨为什么智能体交接会破坏链路上下文,以及如何确保上下文在交接中得以延续。

observability
ai-agents
distributed-tracing
opentelemetry
+1
·tian

停止并非一种状态:为什么智能体需要类型化的终端原因协议

智能体仪表板通常会报告完成率,但一个因为放弃而停止的运行在表面上与成功的运行看起来完全一样。类型化的终端原因协议让智能体的结束方式成为一个一等的、可监控的信号。

insider
ai-agents
observability
reliability
+1
·tian

当 Agent 出错时谁会被呼叫:针对非确定性系统的轮值制度

Agent 的故障难以复现、无法回滚,且在所有的基础设施仪表板上都显示正常。本文将教你如何针对无法单步调试的系统,重写运行手册、警报规则和轮值预期。

insider
ai-agents
observability
sre
+2
·tian

先返回 200 然后失败的流式响应:中途错误如何破坏你的 SLO

流式端点在第一个 token 刷出的瞬间就会确认 200 状态,因此之后发生的每一个失败都会躲过负载均衡器、重试中间件和 SLO 仪表板。本文将介绍如何让响应体承担起 HTTP 头部已无法传达的判定结论。

streaming
observability
reliability
llm
+1
·tian

具有两种延迟的 AI 功能:你衡量的是一种,用户感知的是另一种

流式 AI 功能具有两种分化的延迟 —— 首字时间 (TTFT) 和完成时间 —— 而大多数团队只测量了用户感知最不明显的那一个。本文将介绍如何拆分指标和 SLO。

llm
latency
observability
streaming
+1
·tian

Agent 调试器没有断点:为什么追踪优先工作流正在取代单步执行

当输入具有随机性时,单步调试就会失效。替代方案是基于追踪和重放的工作流,它具有四种功能——时间轴拖动、分支对比、扰动重放以及每一步的意图恢复——这些功能与 IDE 的调试工具栏完全不同。

insider
ai-engineering
debugging
observability
+2
·tian

拒绝“大声失败”的 Agent:过度补偿的回退机制如何掩盖生产环境的质量回退

生产环境中的 Agent 积累了大量的重试、回退和修复逻辑,这些逻辑会悄悄掩盖质量回退,直到流量评估指标发生偏移,而团队却无法追踪根本原因。

ai-reliability
observability
agents
sre
+1
·tian

AI 功能的自带密钥 (BYOK):没人预估过成本的销售驱动型架构重构

BYOK 看起来只是一个身份验证开关,但它同时改变了你的信任、成本和运营边界。以下是大多数团队低估了的架构工作。

insider
byok
ai-platform
enterprise
+2
·tian

延迟感知工具选择:当“当下的足够好”优于“未来的最出色”

智能体提示词中的静态工具描述在实时延迟和错误率面前会逐渐失效。提示词中的运行时“等待成本”信号,是将工具选择从僵化的评估产物转变为路由决策的关键。

insider
ai-agents
tool-use
latency
+2
·tian

凌晨 3 点处理一个没有报 500 错误的 AI 功能报警

传呼机响了,是因为流量评估得分下降了四个百分点,而不是因为服务崩溃。本文探讨针对现有告警无法触发的故障模式,如何制定运维手册(Runbook)模式、告警设计以及轮值纪律。

ai-engineering
on-call
sre
observability
+1
显示第 109–120 篇,共 348 篇