·tian
你的 AI 账单只是一个未标记的行项目:当 Token 拒绝被标记时的 FinOps
模型 API 按 Key 和时间计费,而不是按功能或客户计费,因此你的 AI 支出最终只是一个未标记的行项目。本文将探讨为什么 Token 成本难以像云资源那样进行标记,以及在调用时应如何进行埋点以解决这一问题。
insider
finops
llm
cost-attribution
+2·tian
你的财务团队构建的那个排除了 Embedding 重新索引成本的成本仪表盘
按功能划分的仪表盘跟踪 Token 消耗。按供应商划分的仪表盘跟踪发票。而每季度的 Embedding 重新索引成本则介于两者之间,最终落入无人认领的基础设施桶中 —— 在那里,40% 的 AI 支出在未经审查的情况下悄然流失。
insider
finops
embeddings
rag
+2·tian
你的仪表盘以三种不同方式统计了那次重试
一个智能体在成功前重试了三次。产品团队看到了转化,SRE 团队看到了 75% 的错误率,财务团队看到了四次计费推理。通过任务结果、步骤健康度和预算消耗这三个层面,在保持数据一致性的同时,无需强求一个指标满足所有人的需求。
insider
ai-engineering
agent-observability
llm-ops
+2·tian
你的推理内部结算正在悄悄侵蚀评估纪律
仅对推理 Token 计费而不奖励评估覆盖率,这在变相鼓励模型升级并惩罚评估工作。结果是:在账单飙升的同时评估覆盖率却在缩减——这与 FinOps 的初衷背道而驰。
finops
llm-eval
ai-engineering
cost-attribution
+1·tian
复合型 AI 系统中的内部结算账本
复合型 AI 系统成本分摊指南 —— 涵盖 per-span 账本、on-behalf-of 标头、结算货币不匹配,以及决定谁为工具调用买单的治理策略。
finops
ai-agents
observability
cost-attribution
·tian
按功能计费,而非按 Token 计费:AI 预算分配中的缺口
每个端点的 Token 支出掩盖了哪些 AI 功能在赚钱。将推理追踪与产品遥测相结合的打标规范,能将定价、准入控制和功能废弃的决策从“凭感觉”转变为“看数据”。
finops
llm
observability
cost-attribution
+1