·tian
破坏生产级 LLM 系统的分词器盲点
为什么 “1000 个 Token ≈ 750 个单词” 的假设在最关键的情况下会失效：多语言文本、结构化输出和代码密集型工作负载 —— 以及随之而来的生产环境 Bug。
insider
llm
tokenization
production
+2·tian
大多数团队都会搞错的 LLM 基础设施“自研还是购买”决策
大多数团队在做 LLM 基础设施“自研还是购买”的决策时，都低估了双方的总拥有成本 (TCO)。本文将为你分析各个阶段的盈亏平衡计算，以及那些没人列入预算的隐藏成本。
llm
infrastructure
cost
self-hosting
显示第 13–14 篇，共 14 篇
上一页2 / 2