·tian
LLM 应用中的 SSE vs WebSockets vs gRPC Streaming：那个稍后会让你头疼的协议抉择
探讨 SSE、WebSockets 和 gRPC streaming 在背压下的不同失效方式，分析哪些浏览器限制和边缘代理会在生产环境中引发故障，以及如何根据失效模式概览来选择你的传输协议。
llm
streaming
websockets
sse
+3·tian
实时智能体 UI 背后的流式传输基础设施
智能体流式传输在生产环境中的四种失败方式 —— 以及关于 SSE 传输、背压、优雅取消和浏览器刷新重连的服务端架构决策，这些决策才是让实时智能体 UI 真正可靠的关键。
ai-engineering
streaming
agents
infrastructure
+1·tian
生产环境中的流式 AI 应用：没人警告过你的那些坑
生产环境中的流式传输故障几乎从不源于 LLM 本身——它们通常源自 NGINX 的静默缓冲、负载均衡器对长连接的超时处理，以及增量 JSON 解析器退化为 O(n²) 的性能问题。这是一份关于在大规模应用中真正会导致崩溃的基础设施模式的实战指南。
streaming
llm
production
infrastructure
+1