公司里的某个地方,四个人各自都相信第五个人在管推理账单。工程把它当成云账单的一项。AI 团队把它当成做产品的成本。财务把它当成毛利率的可变输入,默认工程那边已经在管了。产品把它当成工程吸收的间接成本。账单一直在涨,唯一达成共识的是:这账不是我的。
这不是预算问题,而是所有权真空。它第一次浮出水面,往往是因为这条线大到 CFO 在董事会上点名问起。到那时,大家临时拼凑的回答——"我们会优化"、"我们会多做缓存"、"我们会换模型"——描述的是干预手段,却没有指出谁负责。本该在一年前发生的对话,并不是怎么把账单压下去,而是这笔账究竟属于谁的损益表。
这是结构性的变化。推理在企业 AI 支出中的占比,从 2024 年的 15% 涨到 2026 年的大约 85%;同一时间窗口里,企业平均的 AI 预算从 120 万美元涨到了 700 万美元左右。一项原本属于零头的科目,现在已经是董事会会注意到的数字,而那张在变化之前画好的组织架构图里,根本没有给它留一行。
云支出十年前已经解决过同样的组织缺口
云支出十年前走过完全一样的路。EC2 账单每月一到,基础设施团队付钱,产品负责人发布功能——而这些功能的单位经济学没人算得清楚。后来出现的 FinOps,这门学科先回答的是结构问题,再回答的是优化问题。容量规划属于 SRE。客户单位成本属于产品。承诺折扣谈判属于采购。每个职能各管同一张账单的不同切面,而联合论坛存在的意义,就是确保这些切面不会互相打架。
推理支出两头都没沾上。没有一个"SRE 等价"的职能在按延迟 SLO 管预留吞吐量。也没有一个"FinOps 等价"的职能在和模型厂商谈承诺折扣。做 eval 的团队管模型质量。写 prompt 的团队管延迟。两边都不会主动负责"这个功能产生的价值是否对得起它烧掉的 token"这个对话。
于是账单就在"工程工具"、"平台"或"共享服务"里悄悄长大,直到某一个功能大到把这个桶撑爆。撑爆的那天,回应方式是一场 panic 优化冲刺,领头的是那天早晨刚好倒霉出现在站会上的工程师。这场冲刺砍掉 30%,大家松一口气,所有权问题再次被搁置。下一次撑爆时,优化空间更小,紧迫性更高。
单次产出成本:组织架构算不出来的指标
推理真正对的指标,是单次有效业务产出的成本——单次解决的工单成本、单次合格销售线索的成本、用户真正用上的单次准确摘要的成本。工程能告诉你单 token 成本。产品能告诉你每场会话的产出数。财务能告诉你每客户的营收。这三者的交集——单次产出成本——需要跨三个系统做 join,而这件事不属于任何一个职能。
结果就是,"这个功能是不是已经赔本?"这个问题的答案,往往住在某个人每季度手工搭一次的电子表格里,而且通常等到问题变得紧急之后才出现。这个 join 在技术上是可做的。它之所以不存在,是因为这张仪表盘一旦有了主人,那些赔本的功能就有了原告。没人愿意主动当这个原告,除非被迫——通常是一个不再接受"我们还在校准"作为回答的 CFO 逼出来的。
一个能跑起来的版本需要四样东西,没有任何一个团队同时拥有:
在功能级别打标签的 token 遥测,而不是按模型或 API key 维度
一个由产品团队签字认可的、可归因的"产出"定义
一个财务愿意在领导面前为之辩护的营收或价值模型
一条把推理支出推回产品负责人损益表的分摊规则,而不是吸收进工程间接成本里
第一样是技术问题。后面三样是政治问题。这就是为什么光靠 FinOps 工具解不开这个题——它们能交付仪表盘,但仪表盘回答的是一个组织还没同意去问的问题。
分摊是披着技术外衣的政治决定
推理所有权最干净的实现是按功能分摊。负责 AI 摘要功能的产品团队,为自己功能消耗的 token 付钱。负责聊天机器人的团队,为聊天机器人的 token 付钱。推理支出像人力成本和广告费一样出现在产品负责人的损益表上,"留还是杀"的决定,是对着一个产品负责人无法外推的数字做出的。
这是正确答案,但很少落地。原因是它每次被推销到任何一个团队那里,都会被理解成工程在把账单甩给别人。反弹意见高度一致:"我们没选模型。我们没写 prompt。我们没办法控制 token,所以不该背这笔账。"这种反弹在当时很难反驳,但其实是错的。产品负责人确实能控制支出——他们决定这个功能要不要上、要不要严格做使用门槛、廉价模型的降级路径是否可接受、Agent 循环三次还是三十次。
分摊的技术基础已经摆在那里。AWS 在 Bedrock 里暴露了"按应用"的推理 profile,会给每次调用打上成本分摊元数据。主流 FinOps 平台也能按功能、按客户、按业务单元给 LLM 支出做分组,前提是遥测在调用点做了标签。这些事一旦组织决定做,技术上并不难。难的是那个决定,而那个决定需要一个论坛——一个能让工程、产品、财务把分摊规则谈出来、不会有一方拍桌走人的论坛。
关停阈值必须事先约定 一旦分摊到位,问题就从"怎么把账单压下去"变成"哪些功能值得它的账单"。后一个问题更难,因为等一个功能开始上线被度量的时候,它就有了自己的支持者。工程师建了它。PM 拿了它的功劳。用户开始依赖它。要杀掉它,就得正面对抗那个把它发出去的团队,而"单位经济学不行"在没有事先约定的对话里,永远输给"可是用户喜欢它"。
修复办法是在功能发布前就事先约定一个关停阈值。单次产出成本超过某个数字,或者毛利率低于某个数字,就会触发一场团队事先同意过的关停讨论。讨论本身依然不好开,但它是对着一个团队在没有情感投入时挑出的数字进行的,而不是对着最大嗓门的利益相关方可以临时翻案的"感觉"。
事先约定的阈值还会改变工程的优化方向。当关停阈值白纸黑字写下来,团队就会把降本当成一项有截止日期、有负责人、有指标的功能开发。没有这个阈值时,降本永远是"下个季度再说",每个季度都是,直到账单逼出一场 panic。
单次产出成本的目标会进到产品需求文档里,和延迟目标、满意度目标并列。如果一个功能在约定的优化窗口结束后还达不到目标,它就 sunset 掉。这个阈值不是对团队的惩罚——它是允许团队停止投入一件挣不到自己位置的东西。
推理是你第一次面对的、谈不下价格的计算成本 云支出有一个你财务团队习惯了的杠杆:重新谈价。三年承诺协议、定制定价、超大规模厂商赠金、多供应商分散。你 CFO 跟 AWS 客户经理是有关系的。他们知道怎么开口要折扣。
推理不一样。单位价格由一家你财务团队从没见过的厂商定,折扣面很窄,杠杆不对称。你可以换模型,但换模型的调试成本,大多数产品团队都低估了。你可以自托管,但自托管推理的盈亏平衡点,大多数公司很多年都到不了。你可以谈量大折扣,但折扣幅度小于厂商单方面调整的年度价格变动。
当下的定价里包含的更多是风险投资和超大规模厂商的补贴,而不是稳态的销货成本。等这层补贴收紧,那条在"工程工具"里悄悄长大的线,会在没有预警的情况下被重置往上。那些没有提前练出跨职能肌肉、做不出"哪些 AI 功能留下、哪些走廉价模型降级、哪些 sunset"这种有据可依判断的组织,会在那第一个寒冬里内耗——争论削减究竟从谁的预算里扣。这些争论会非常熟悉——它们就是十年前云支出制造出来的同一批争论,只是当时 FinOps 还没给它们提供一个论坛和一套词汇。
工具能帮你之前,组织得先做哪些决定 仪表盘、分摊平台、按功能打标签,这些今天都已经具备。它们不是缺的那一环。缺的是一系列领导团队还没坐下来做的决定:
谁是每个 AI 功能的有名有姓的预算负责人,并且明确拥有杀掉它的权力?
推理支出在损益表里住在哪——工程间接成本,还是产品销货成本?
季度复盘上,推理支出和营收、采用率并排汇报,还是埋在云账单的行项里?
每个功能的事先约定关停阈值是多少,触发时由谁签字?
哪个高管负责那个跨职能论坛——让工程、产品、财务把分摊规则吵明白?
这些问题不是技术问题。它们不会被一个工具解决。它们最终会被回答,往往是被一个失去耐心的 CFO,或者一个不再接受借口的董事会。早一点回答这些问题的组织,会显得他们 AI 的经济学运气好。其实不是。他们有一个论坛、一个负责人、一个数字——这三样东西,是在推理还没成为 AI 账单 85% 的年代画好的组织架构图里默认没有的。补上它们,才是真正的领导力动作。其余的,都是优化。
会员专享
余下内容仅对会员开放。 会员可读完整内容 —— 每一个公开发布的观点背后,那些框架、决策与推理的全貌。
— 完整文章,包含未公开存档的部分 — 可落地的工作框架,附带权衡与决策依据 — 新文章抢先看,先于公开发布 登录以继续阅读→ 随时取消 · 一次订阅,畅读全部