·tian
采样漂移:当 Temperature 和 Top-P 变成团队内部的“口头传说”
生产环境中的采样配置往往堆积了大量未经记录的 Temperature、Top-P 和惩罚项数值。当初设置这些参数的理由早已模糊,但其影响却在不断叠加。本文介绍一种捕捉此类问题的工程规范。
llm
sampling
prompt-engineering
ai-engineering
+1·tian
Agent 的链路追踪采样:每日千万级 Span 中哪些值得保留
为什么默认的均匀采样在 Agent 工作负载中会失效,以及决定你的链路账单和故障平均修复时间 (MTTR) 的四个关键决策 —— 开始、结束、分层与保留。
agents
observability
llm
sampling
+1·tian
Agent Trace 中的采样偏差:为什么你的调试数据集在悄悄排除你最关心的失败案例
头部采样和均匀随机采样会悄悄地从你的调试语料库中切除罕见的灾难性 Agent 轨迹。通过尾部采样、基于异常的关键保留以及按故障模式划分的蓄水池,可以构建一个真正包含你所需失败案例的调试数据集。
observability
agents
sampling
llm
+1