·tian
用户关闭对话后才完成的异步工具调用
长时间运行的工具调用往往比触发它们的聊天会话存续时间更长。当你关闭标签页时,结果仍然会返回 —— 但面对的却是一个已不存在的对话、错误的会话,或者根本无处投递。
ai-agents
tool-calling
async
distributed-systems
+1·tian
有状态多轮对话基础设施:超越传递完整历史记录
为什么「传递完整对话历史」在 p99 规模下会失效,以及真正能在生产环境中撑得住的会话存储设计、压缩策略和运维模式。
insider
ai-engineering
production
conversation
+2·tian
多轮对话会话状态坍缩问题
为什么单轮 LLM 故障很容易被发现,而多轮会话状态在 10 轮以上后会悄悄损坏 —— 以及防止 “AI 忘了我是谁” 这种失效模式的检查点、压缩和监控模式。
insider
ai-engineering
llm
session-management
+1·tian
数据库规模的有状态对话:每个生产聊天功能都需要的会话存储架构
内存中的对话历史在演示中运行良好,但在规模上会失败。深入解析分层存储模式、压缩策略和数据模型决策,让聊天会话在生产环境中保持可靠。
ai-engineering
chat
session-management
database
+1