1 含有标签「cancellation」

当用户取消对话后，下游 API 却仍在继续写入

点击停止按钮可以干净地关闭 LLM 流。但这并不会停止工具已经向第三方开启的 HTTP 请求，而第三方并不知道对话已经结束。本文将解释为什么 AbortSignal 止步于套接字，以及你应该在提交边界构建什么来替代它。