1 含有标签「inference-cost」

检索引用税：为什么合规性会增加 30% 的 RAG Token 账单

在 RAG 系统中添加引用看起来只是改一行系统提示词。但在受监管的租户中，它会悄无声息地让推理成本增加 25%–40%。本文将探讨为什么这种“税收”是结构性的，以及哪些架构层面的调整可以帮你挽回大部分成本。