·tian
那些悄悄将你的高级流量路由到 Haiku 的供应商自动路由器
通过供应商的 'auto' 别名减少 34% 的开支看起来像是一场胜利,直到你流量最高的界面的客户满意度连续两个季度下滑 —— 而批准此次上线的评估流程甚至从未见过路由器重定向到 Haiku 的那些提示词。
insider
llm
model-routing
cost-management
+1·tian
客户端估算的 Token 数量与供应商结算账单的差异
本地分词器估算值与供应商计费 Token 之间的细微漂移,通常只会被视为背景噪声,直到其在多语言内容、粘贴的代码以及工具 Schema 上集中体现 —— 此时财务部门会开始询问,为什么 AI 费用项与你自己的日志不再匹配。
insider
cost-management
llm
tokenization
+1·tian
模型迁移的双重账单:被忽视的评测重锚税
更换基础模型会悄无声息地使你的评测基准失效——人工锚定的评分、LLM 裁判、快照以及团队直觉都需要重新锚定,而由此产生的人工成本通常比节省的 token 费用更高。
insider
evals
model-migration
llm-ops
+1·tian
非工作时间成本曲线:为什么你的 AI 功能在周六和周二的开销不同
每周滚动平均成本掩盖了每个 AI 功能都存在的群组混合问题 —— 而那些在非工作时间产生的 3–5 倍单活跃用户成本,是一种结构性特征,而非边缘案例。
insider
ai-engineering
finops
observability
+2