2 含有标签「serverless」

Posts tagged "serverless" on TianPan.co.

查看所有标签

2026年5月17日·tian

温池与冷真相：Serverless LLM 推理中隐藏的延迟底线

将 GPU 推理缩容至零会将稳定的资金成本转化为隐藏在 p99 尾部延迟中的尖峰延迟成本。本文将为你介绍盈亏平衡计算方法和缓解工具集。

2026年4月10日·tian

Serverless AI Agent 的冷启动税

普通 Lambda 函数仅需毫秒级的冷启动时间，但在进行 GPU 推理的 AI Agent 中却可能延长至 40–120 秒。本文将介绍在生产环境中真正有效的部署决策矩阵和缓解模式。