大多数财务团队都把第一张 LLM 账单放错了地方。它出现在实验阶段，当时只有少数工程师正在使用 API 密钥进行原型设计，它看起来确实就是当时的样子：研发支出 (R&D)。每月花费几千美元来弄清楚这项技术是否可行。因此，无论是在认知上还是在实际操作中，它都被归入了研发支出，没有人对此深究。
随后，功能上线，使用量攀升，第一季度还是可以忽略不计的误差项，到了第四季度就变成了云服务账单中增长最快的成本。问题从来不在于金额大小。问题在于成本已经悄然改变了类别——从对构建某项功能的固定投入，变成了服务每一位用户的变动成本——而思维模型却没有随之转变。
这种分类错误是目前 AI 产品中最昂贵的会计错误，而且它本质上甚至不是会计错误，而是预测错误。
那些被打得措手不及的公司，并不是因为花钱太多，而是因为他们将一个随使用量规模化的成本当成了固定成本，并基于这一假设为产品定价，直到收到账单时才发现其中的差距。OpenAI 本身就是一个大规模的警示案例：2025 年其预计营收为 37 亿美元，亏损约 50 亿美元，每赚 1 美元就要支出约 1.35 美元——这并非由员工人数或模型训练驱动，而是由为数十亿次请求提供推理服务的原始成本驱动。你不需要达到那样的规模就能感受到这种动态带来的压力。你只需要判断错你所承担的成本类型。
Token 是 COGS，而非研发支出
最清晰的思维模型是最古老的那个：像制造商一样思考，而不是像软件公司。
传统 SaaS 拥有 80% 以上的高毛利，是因为每增加一名客户的边际成本几乎为零。你只需编写一次软件，然后售卖一百万次。成本结构几乎完全是固定的——工程师工资、固定的云服务账单——收入在增长的同时，成本几乎不动。这就是软件成为一门如此美妙的生意的原因。
推理打破了这一规律。每一次查询都要重新运行模型。每一次模型运行都会消耗 GPU 计算、内存带宽和能源，而这些都是需要付费的。这里没有“构建一次，无限销售”的诀窍，因为每一笔交易都带有真实的变动成本。这使得 Token 支出成为了真正意义上的主营业务成本 (COGS) —— 它与使用量挂钩，而非与用户量挂钩。它随着 Prompt 长度、响应长度、重试次数和并发量的增加而上升。即使在考虑到缓存和批量折扣后，下一次请求的边际成本也永远不会为零。
数据反映了这一转变。ICONIQ 的 2026 年数据显示，AI 产品的平均毛利率为 52% —— 高于 2024 年的 41%，但仍与定义了成熟 SaaS 的 80% 标杆相去甚远。在处于规模化阶段的 AI B2B 公司中，仅推理一项就消耗了大约 23% 的收入。披露 AI 驱动的利润压力的上市公司报告称，其毛利率比 AI 之前的基准线低了 10 到 17 个百分点。当你的收入有四分之一被一个随着每次成功的客户交互而增长的成本吃掉时，这个成本应该放在毛利率线上方，并像对待 COGS 一样进行建模和监控。
实际后果是：如果你的 Token 支出在损益表 (P&L) 中被列为研发支出，你的毛利率看起来会比实际情况更好，你就会一直根据一个虚假的数据来做出定价和增长决策。
什么时候租用是明智的交易
将其称为 COGS 并不意味着它是一个需要消除的问题。按 Token 付费的全部意义在于，你在租用智能而不是购买智能，而租用通常是正确的财务决策。
当你调用供应商的 API 时，你无需承担资本支出 (capex)，无需采购 GPU，没有折旧计划，也没有闲置产能的风险。你只为你使用的部分付费，当使用量归零时，成本也会降至零。对于一个仍在成型中的产品——需求不确定、工作负载在演变、模型格局每季度都在重新洗牌——这种选择权价值巨大。你是在购买以低廉成本改变主意的权利。在了解你要制造什么之前就投入自有基础设施以降低每 Token 费率，等同于在不知道要生产什么之前就买下一座工厂。
租用模式中还隐藏着第二个礼物：你所租用的东西的价格正在持续崩塌。在两年内，实现同等能力水平的成本下降了约 280 倍——从 GPT-3.5 级别性能的每百万 Token 约 20 美元，降至约 7 美分。目前各模型之间的 API 定价跨度达 600 倍，从最廉价的每百万 Token 一角钱，到最尖端推理模型的 60 美元。一个在 18 个月前还不经济的工作负载，今天可能不需要你修改一行代码就能获得丰厚的利润。固定基础设施的所有者无法免费获得这种通缩红利，而租用者可以。
因此，这个框架的真实版本不是“变动成本坏，固定成本好”。而是：在工作负载不确定且技术处于变动期时选择租用，只有当使用量变得庞大且稳定，以至于自有设备的单位节省能够抵消运营成本时，才重新考虑。在实践中总结出的经验法则是，公司在每月推理支出达到 5 万至 10 万美元区间之前，通常会一直使用 API，然后才开始评估专用容量或自托管能力。在这一界限之下，租用溢价要比摆脱它所需的工程成本更便宜。
当可变成本变成毛利陷阱时
同样的灵活性在为你带来选择权的同时，也可能悄无声息地破坏你的单位经济效益，而这个陷阱有一个具体的形态：你的定价是固定的，而你的成本却不是。
其中的算术逻辑残酷而简单。向客户每月收取 20 美元，如果他们运行了 5000 次复杂的查询，每次成本为 1 美分，那么你在最活跃的用户身上就亏损了 30 美元。固定费率定价反转了参与度与利润之间的通常关系：你的重度用户——那些传统 SaaS 公司会欢庆的用户——成了你最大的亏损源。使用量呈肥尾分布，一小部分客户驱动了大部分消耗，在固定费用的模式下，这条“长尾”会生吞掉你的利润。
这就是为什么 AI 定价的“自助餐”时代正在实时终结。GitHub Copilot 在 2026 年 6 月放弃了固定的高级请求模式，转而采用基于使用量的额度制；Windsurf 放弃了额度系统，改为严格的日间和周间配额，并提高了价格。这些并非孤立的调价行为。这是市场正在发现：你不能在无视使用量的定价下，销售一种随使用量扩展的成本，并指望在面对重度用户时生存下来。
这种陷阱的宏观版本是杰文斯悖论 (Jevons paradox)，它专门捕获那些认为 Token 价格下降会缩小账单的 CFO。当一种资源变得更便宜时，人们会使用更多——如果需求具有足够的弹性，即使单位成本下降，总消耗量也会上升。这正是当前发生的情况。自 2023 年以来，单个 Token 的价格下降了 90% 以上，但企业 LLM 的总支出却大约翻了一番，因为更便宜的 Token 催生了每次任务触发 10 到 20 次模型调用的智能体工作流 (agentic workflows)、撑大了上下文窗口的 RAG 流水线，以及全天候运行的常驻智能体。企业平均 AI 预算从 2024 年的约 120 万美元增长到 2026 年的 700 万美元。单位成本变便宜了，账单却变大了。如果你的预测假设价格下降会自动为你完成成本控制，那么悖论已经盯上你了。
预测一项变幻莫测的支出
LLM 支出每月都会令财务团队感到意外，原因是通常的预测工具——历史平均值乘以预计业务量——是为表现稳定的成本设计的，而这项成本并非如此。
单个 Token 的数学计算看起来简单得具有误导性：将费率乘以预期使用量即可。但生产环境的行为引入了复合因素，使这些估算变得极其离谱。瞬时故障的重试。随着对话增长而扩大的上下文窗口。单次用户操作触发一连串内部调用的多步推理链。针对生产模型运行的自动评估套件。在进行工具化监测之前不可见的框架开销。而且输出 Token 的成本是输入 Token 的两到六倍，因此一个变得更“话痨”的模型会悄悄推高你的账单。每当供应商发布新模型时，你的基准就会重置，而你的历史平均值将指向错误的方向。
几个原则可以让预测变得可控：
- 以工作单元而非 Token 为模型进行建模。 预测每个工作流、每个解决的工单、每份生成的报告的成本——即客户实际购买的东西。原始 Token 波动太大，且与收入脱节，无法作为预测的锚点。单次旅程的成本，即使轻量任务只需几美分，重度任务需要几十美分，也是一个你可以乘以需求并信赖的数字。
- 按场景预测，而非单一估算。 至少运行一个保守情况、一个激进采用情况、一个竞争定价压力情况以及一个供应商重新定价情况。LLM 成本预测的诚实输出应该是一个带有明确驱动因素的范围，而不是单一的一行数字。
- 将并发量和单次任务 Token 数视为领先指标。 这些指标在发票产生之前就会发生变动。逐渐增长的平均上下文大小或单次任务调用次数的增加，是你下个月账单攀升的早期预警——如果你有监测工具，这在几周前就清晰可见；如果你没有，这就是一个令人厌恶的意外。
- 记住那些非 Token 的成本。 在 2025 年的一项调查中，最常被提及的意外 AI 成本是数据平台使用费（56%）以及网络和流量出站费（52%）——两者都超过了 LLM Token 的 37%。Token 账单是头条新闻；向量存储、嵌入 (embeddings)、检索基础设施和数据移动才是悄悄赶上来的成本。
闭环：按支出方式定价
防御毛利陷阱最干净利落的方法是结构性的，而非战术性的：让你的收费方式与你的支出方式保持一致。如果你的成本与使用量挂钩，那么你的收入也应该挂钩，至少在边际上是这样。这就是为什么目前约 92% 的 AI 软件公司运行混合模式——以订阅制底价确保预测性，叠加消耗型组件以使收入随销售成本 (COGS) 同步扩展，这样使用量的增长就不会悄悄反转你的毛利。
工程杠杆位于其下。在主要供应商那里，提示词缓存 (Prompt caching) 可以将重复上下文的成本降低高达 90%；批处理 (batch processing) 可以再降低 50%；将简单查询路由到廉价模型，同时将前沿模型保留给难题，可以在不引起用户注意的质量损耗下削减 50–80% 的支出。将缓存、批处理和路由堆叠起来，可以将实际的单次调用成本降至标价的四分之一。这些应该出现在与预测相同的仪表盘上，因为它们是将毛利问题转化为毛利空间的调节旋钮。
这一切要求 CFO 做的心理转变很小，但具有决定性。问题不再是“今年 AI 花了我们多少钱”——这是一个属于研发费用的固定预算问题。而是“每一单位的使用量是否携带了其自身的价值”——这是一个属于销售成本 (COGS) 的单位经济效益问题。租赁智能是一笔真正划算的交易：没有资本支出 (capex)，自带通缩属性，并且随着技术的突飞猛进，你可以自由地改变主意。但如果你将一项租赁服务的价格定得像是免费的一样，那么在你的产品成功的时刻，它就会变成你最昂贵的支出项。在这十年中胜出的团队不会是那些在 Token 上花钱最少的团队，而是那些始终清楚下一个 Token 是否能回本的团队。
会员专享
余下内容仅对会员开放。
会员可读完整内容 —— 每一个公开发布的观点背后，那些框架、决策与推理的全貌。
- —完整文章，包含未公开存档的部分
- —可落地的工作框架，附带权衡与决策依据
- —新文章抢先看，先于公开发布
随时取消 · 一次订阅，畅读全部
