跳转到主要内容

136 含有标签「mlops」

Posts tagged "mlops" on TianPan.co.

查看所有标签

·tian

一次回填,让你的整个 AI 账单重新运行

一次重新索引、重放或迁移操作,可能会悄无声息地以全价 token 重新处理你的整个语料库——几天后账单便会送达。本文将介绍如何在大型 AI 重新处理任务让你措手不及之前,对其进行估算、设置上限和分阶段执行。

llm
cost
finops
mlops
+1
·tian

淘汰嵌入模型:在不中断搜索的情况下重新索引数百万个向量

更换嵌入模型表面上看起来只是配置更改,但实际上是一次完整的数据迁移。本文将介绍如何重新嵌入语料库、执行双索引切换、预估成本和时间,并在你的用户发现问题之前证明新索引的效果更佳。

insider
embeddings
vector-search
rag
+2
·tian

腐烂的黄金数据集:为什么你的评估集会与产品脱节

一个持续通过的黄金评估集可能在对你撒谎。本文探讨评估数据集如何因覆盖范围缺失、标签陈旧和分布偏斜而腐烂,以及如何通过数据卫生保持评分的真实性。

insider
ai-engineering
llm-evaluation
mlops
+1
·tian

试点炼狱:廉价的 90% 正是你的 AI POC 无法转正的原因

一个可运行的 AI 演示只是那看起来像 100% 但其实很廉价的 90%。那些能确保其在生产环境中安全运行的评估、护栏、可观测性、成本上限和权属划分,才是没人预估过的昂贵的 10% —— 这里有一份清单,帮你提前预估这些成本。

insider
ai-engineering
llm
mlops
+1
·tian

为权重签名:模型是供应链忽略的可执行文件

你的 CI 为容器签名并锁定包哈希,但决定产品行为的模型权重却在未经校验的情况下加载。pickle 后门、受污染的检查点(checkpoints)和开放的存储桶已成为被忽视的攻击面 —— 了解 OMS 签名、safetensors 和摘要锁定(digest pinning)如何填补这些安全漏洞。

insider
ai-security
supply-chain
mlops
+1
·tian

你的微调模型是一个你需要维护的分支

微调是对他人代码库的一次分支(Fork),而每一次基座模型的发布都是一次你并未计划的上游变基(Rebase)。弃用时钟、LoRA 适配器移植壁垒,以及当提示词加检索胜过拥有模型权重时的分支经济学规则。

insider
llm
fine-tuning
ai-engineering
+1
·tian

护栏也是模型:那个没人放进仪表盘的隐藏依赖

置于 LLM 之前的审核分类器是关键路径上的第二个模型 —— 它同样存在延迟尾部、模型漂移和停机风险。本文将探讨如何规划其延迟预算,有意识地选择故障开启或故障关闭策略,并像监控核心模型一样监控这道关卡。

ai-engineering
llm
reliability
guardrails
+1
·tian

金丝雀群组:按 ID 哈希的分流如何将核心用户聚集到同一实验组

对不透明 ID 进行均匀哈希并不等同于对用户进行均匀抽样。当 ID 分配与参与度相关联时,基于哈希分桶的金丝雀发布可能会悄无声息地将所有核心用户分配到同一个实验组,并报告一个虚假的增长结果。

insider
experimentation
ab-testing
rollout
+2
·tian

团队上线了新提示词模板,评估框架却还在测昨天的旧版本

如果评估套件在给错误的提示词版本评分,即使发布版本已损坏,报告仍会显示通过。解决方案不在于更快的缓存失效,而在于使用基于内容的提示词哈希,从而从根本上杜绝评估与生产环境出现偏差的可能性。

llm-evals
prompt-engineering
observability
mlops
+1
·tian

离职工程师带走的微调产物

微调模型不仅仅是注册表中的一个文件;它是流水线在训练集上的闭包。那些只交付权重的团队,会在需要进行基础模型迁移而原工程师已经离职的那天,发现他们的公交车指数有多低。

mlops
fine-tuning
reproducibility
ml-engineering
·tian

那个平台团队搭建却无人更新的模型注册表

模型注册表的晋级门槛只有在评审者拥有充足时间、独立证据以及一致的激励机制时才能发挥作用。大多数团队只完成了这套机制的前半部分,却忽略了其余部分,导致注册表沦为一种文书流水线,无论开发者交付什么都会被批准。

mlops
governance
platform-engineering
ai-safety
+1
·tian

RAG 阈值固定在了绝对分值上,而 Embedding 升级却悄然改变了分布

当 Embedding 升级悄然改变了重排序器的分值分布时,固定的阈值就变成了一个完全不同的过滤器 —— 而性能倒退就隐藏在那个从未被修改过的数字里。

rag
retrieval
reranking
monitoring
+1
显示第 1–12 篇,共 136 篇
1 / 12下一页