跳转到主要内容

8 含有标签「async」

Posts tagged "async" on TianPan.co.

查看所有标签

·tian

用户关闭对话后才完成的异步工具调用

长时间运行的工具调用往往比触发它们的聊天会话存续时间更长。当你关闭标签页时,结果仍然会返回 —— 但面对的却是一个已不存在的对话、错误的会话,或者根本无处投递。

ai-agents
tool-calling
async
distributed-systems
+1
·tian

那些被你的智能体“触发并遗忘”的异步工具调用

函数调用将同步和异步工具视为相同的形式。智能体触发了一个任务,收到了一个 ID,随后标记该步骤已完成 —— 而实际工作却从未落地。

insider
ai-agents
tool-calling
mcp
+2
·tian

非阻塞 AI:让应用在智能体工作时保持响应的异步 UX 模式

长时间运行的智能体任务会打破同步 UX 的所有假设。本文介绍让应用在智能体工作时保持响应的后端与前端模式。

ai-engineering
ux
agents
async
·tian

智能体完成任务时房间已空:异步后台任务中的过时上下文交付

延迟 90 秒完成任务的异步智能体往往会交付用户已经不再关心的答案。解决方法在于“交付时相关性网关”,而非更快的模型。

insider
agents
async
ux
+2
·tian

热路径与冷路径 AI:决定你 p99 延迟的架构决策

一个决策框架,用于确定哪些 AI 工作属于请求路径,哪些属于队列,以及在流量形态变化时如何跨越边界进行迁移。

ai-architecture
latency
async
llm
+1
·tian

AI 流水线中的结构化并发:为什么 asyncio.gather() 还不够

并行工具调用是 LLM 最强大的功能之一——但 asyncio.gather() 会引入孤儿任务、静默失败和资源泄漏,这些问题往往在生产环境高负载下才会暴露。本文将介绍如何在智能体流水线中正确处理并发。

ai-engineering
async
agent-architecture
python
·tian

异步智能体工作流:长运行任务设计

跨越 30 秒 HTTP 墙:针对运行数分钟或数小时的 AI 智能体,探讨异步作业队列、幂等键、检查点恢复模式以及轮询与 Webhook 的对比。

agent-architecture
distributed-systems
async
production
·tian

为什么长任务 AI Agent 会在生产环境中失败(以及修复它们的底层架构)

长任务 AI Agent 的失败方式往往是可预见的:复合错误率、同步超时、非幂等重试以及缺乏人工干预计划。本文将介绍如何构建真正可靠的底层架构。

ai-agents
production
reliability
async
+1