·tian
不可信的 Trace Replay:为什么你的新模型评估在撒谎
Trace replay 在一个已不存在的上下文中验证 LLM 升级。本文将揭示为什么那些绿色的评估指标在撒谎,以及在成本与信号的曲线上,哪些验证原语分别适用于哪个阶段。
llm-migration
evaluation
observability
mlops
·tian
模型迁移指南:如何在不破坏生产环境的情况下更换基座模型
一份在生产环境中安全迁移基座模型的分步指南 —— 涵盖影子测试、嵌入向量重新索引、提示词适配、金丝雀发布,以及区分两周完成更换与两个月完成更换的组织协调工作。
insider
llm-migration
model-swap
shadow-testing
+2