1 含有标签「retry-budget」

LLM Agent 的重试预算：为什么 20% 的单步失败率会让你的 Token 账单翻倍

在链式 LLM Agent 中，20% 的单步重试率很少只增加 20% 的成本 —— 由于上下文回放，成本往往会攀升至 2 倍左右。本文将介绍如何通过预算限制重试、在 CI 中捕获成本爆炸，并停止为失败支付双倍费用。