·tian
重试并非免费:大模型重试策略的 FinOps 数学逻辑
传统的重试策略假设成本有界且重试相互独立。大语言模型工作负载打破了这两点——在处理最糟糕的输入时,账单会呈复合式增长。这是一份为 Token 经济学重构重试预算的实战指南。
llm
finops
retry
agents
+1·tian
重试放大:2% 的工具错误率如何演变成 20% 的智能体故障
智能体循环通过在多个步骤和 SDK 层级间叠加重试,将 2% 的工具错误率放大为 20% 的用户端故障。本文将解析其背后的数学原理、自我 DoS 模式,以及能够遏制这种现象的重试预算规范。
insider
agents
reliability
retry
+2