1 含有标签「agent-fleets」

推理服务提供商拒绝发送的背压信号

在 200 和 429 之间存在一个盲区，每个 LLM 客户端都会步调一致地出现超载。缺失的负载压力标头是协议层面的缺失，而非客户端的 Bug。