跳转到主要内容

15 含有标签「opentelemetry」

Posts tagged "opentelemetry" on TianPan.co.

查看所有标签

·tian

OpenTelemetry 尾部采样器丢弃了复盘最需要的 LLM Span

尾部采样(Tail-based sampling)是针对请求-响应世界而优化的,在那里,200 OK 和“值得保留”几乎是一回事。然而,LLM 系统打破了这一约定——而你最需要的追踪记录,往往正是你的采样器配置为丢弃的那一个。

observability
llm
opentelemetry
tracing
+1
·tian

你的网关在 LLM 调用与工具执行之间丢失的 traceparent 请求头

生产环境中的 LLM 智能体技术栈经常在模型调用与工具执行之间丢失 W3C traceparent 请求头,导致原本连贯的用户交互逻辑碎裂成一堆“孤儿追踪”森林 —— 本文将揭示泄漏发生的环节以及如何修复它。

insider
observability
llm-agents
opentelemetry
+2
·tian

由客户端时钟而非网关标记时间戳的链路追踪时间线

在你的 Agent 链路中,浏览器标记的 Span 与网关标记的 Span 是不可比的。本文探讨为什么客户端时钟会“撒谎”、SDK 是如何传播这一偏差的,以及缩小差距的几种模式。

insider
observability
distributed-tracing
ai-agents
+2
·tian

止于供应商边界的链路追踪

你的分布式链路追踪往往在推理 API 的边缘中断。本文将介绍如何对流式数据块、请求 ID 和供应商侧信道进行插桩,从而找回流水线中最昂贵的分钟级性能损耗。

observability
llm
tracing
opentelemetry
+1
·tian

在智能体交接处中断的分布式链路追踪

你的 Span 树在智能体相互调用之前一直非常清晰 —— 但就在 Bug 发生的地方,追踪突然中断了。本文将探讨为什么智能体交接会破坏链路上下文,以及如何确保上下文在交接中得以延续。

observability
ai-agents
distributed-tracing
opentelemetry
+1
·tian

思维标记(Thinking Tokens)在你的日志中隐身,但在账单上却震耳欲聋

推理标记(Reasoning tokens)按输出计费,但它们存在于一个大多数 LLM 可观测性栈在构建时尚未涉及的字段中。本文将分析为什么财务部门总是先于技术人员发现成本回归,以及你该如何弥合这一差距。

insider
llm-observability
reasoning-models
ai-cost
+2
·tian

流式响应追踪模式鸿沟:为什么你的 APM 在 LLM 延迟上撒了谎

流式 LLM 响应打破了请求/响应的 Span 模型。duration 字段具有误导性;故障发生在边界之间——如 TTFT 回归、中途停顿、内容死循环——而解决方案是采用基于检查点的 Token 时间事件,并建立真正的尾部事件分类体系。

llm-observability
streaming
opentelemetry
tracing
+1
·tian

智能体可识别性:当 Trace 无法分辨哪个智能体执行了哪些操作时

当出现故障时,多智能体 Trace 会立即坍缩成一团混乱的、完全相同的 agent.run span。本文介绍了修复这一问题的五字段身份模型 —— 稳定角色、父智能体、实例 ID、模型和提示词版本、结果 —— 以及为什么你的 APM 默认不会显示这些信息。

ai-engineering
observability
opentelemetry
multi-agent
+1
·tian

Agent 追踪采样:当 “记录所有内容” 耗费 8 万美元却依然漏掉性能退化时

请求级的采样策略对 Agent 追踪已不再适用。采用分层策略——始终追踪失败、对成功请求进行头部采样、按成本百分位进行尾部采样——能将追踪存储从预算黑洞转变为有效的事件响应工具。

insider
llm
observability
agents
+2
·tian

你的 Span 名称是未记录的 API:Agent 团队之间的遥测契约

Span 名称和属性键是未记录的 API,其使用者涵盖了成本仪表板、评估流水线和 SLO 告警。请将遥测数据视为带版本的 Schema,否则你将不断因那些无声失败的破坏性变更而接到告警电话。

observability
opentelemetry
telemetry
ai-agents
+1
·tian

你的 LLM Span 在撒谎:APM 工具没告诉你的推理延迟真相

标准的 APM 工具将 LLM 调用视为一个不透明的 span —— 但 prefill、decode、缓存未命中和批处理位置都隐藏在这个耗时段中。本文将揭示你真正需要的追踪层面。

insider
llm
observability
opentelemetry
+2
·tian

跨 Agent 服务边界的分布式追踪:上下文传播的断裂

当 Agent 跨微服务边界调用 Agent 时,W3C TraceContext 会发生断裂,追踪信息碎片化为不相关的 Span。本文介绍故障的技术形态以及修复方法。

insider
observability
agents
opentelemetry
+1
显示第 1–12 篇,共 15 篇
1 / 2下一页