1 含有标签「service-mesh」

内部 LLM 网关是新一代 Service Mesh

当团队达到 50 名工程师规模时，每个团队都会拙劣地重造同一个 LLM 网关。本文探讨为什么这种模式不断出现，哪些功能应该集中化、哪些应该留在边缘，以及如何解决内部的博弈冲突。