·tian
LLM 应用中的 SSE vs WebSockets vs gRPC Streaming:那个稍后会让你头疼的协议抉择
探讨 SSE、WebSockets 和 gRPC streaming 在背压下的不同失效方式,分析哪些浏览器限制和边缘代理会在生产环境中引发故障,以及如何根据失效模式概览来选择你的传输协议。
llm
streaming
websockets
sse
+3·tian
数据库连接池:AI 流水线中被忽视的性能瓶颈
AI 工作负载打破了标准连接池容量规划的所有假设。本文梳理背后的数学原理、常见故障模式,以及真正有效的解决方案。
insider
ai-engineering
database
performance
+1·tian
Agent 友好型 API:当 AI 成为客户端时,后端工程师常犯的错误
当 AI Agent 成为客户端时,大多数 REST API 都会在无声中崩溃 —— 模糊的错误会导致重试循环,偏移分页会破坏遍历,而基于请求数的速率限制在多 Agent 协作下会失效。本文将介绍需要修复的问题及其重要性。
insider
api-design
ai-agents
backend
+1