·tian
为 Agent 进行容量规划:为什么并发数而非 QPS 才是你的真实衡量单位
QPS 会掩盖 Agent 的真实负载,因为运行过程会持续数分钟并产生扇出效应。使用利特尔法则(Little's Law)来按并发数进行估算——这才是真正占用你资源的指标。
ai-agents
capacity-planning
concurrency
llm-infrastructure
+1·tian
无共享智能体:为水平可扩展性设计 AI 智能体
大多数 AI 智能体无法水平扩展,因为它们积累了将其绑定到单一机器的隐式状态。本文介绍解决这一问题的架构规范。
insider
agent-architecture
distributed-systems
scalability
+1