跳转到主要内容

136 含有标签「mlops」

Posts tagged "mlops" on TianPan.co.

查看所有标签

·tian

隐形模型漂移:供应商静默更新如何破坏生产 AI

LLM 供应商在不发布变更日志的情况下更新模型。你的提示词回归是真实存在的,它们是静默的,且需要你自己去发现。以下是具体方法。

insider
llm
production
observability
+1
·tian

LLM 驱动的数据流水线:那个没人做基准测试的 ETL 层

大多数 LLM 基准测试衡量的是聊天机器人的质量。但企业在 LLM 上的大部分支出其实都投入到了批量处理流水线中 —— 而几乎没有人去衡量这些流水线是否真的有效。

insider
data-engineering
llm
etl
+2
·tian

生产环境中的LoRA适配器组合:无冲突运行多个微调技能

团队为语气、格式、领域知识和安全性分别构建LoRA适配器,组合时却频繁产生冲突。本文介绍如何检测干扰、选择合适的合并策略,以及在不重载权重的情况下按请求提供混合适配器服务。

insider
fine-tuning
lora
mlops
+2
·tian

90% 可靠性之墙:为什么 AI 功能会陷入瓶颈以及该如何应对

为什么 AI 功能在可靠性达到 90% 左右时会停滞不前,如何诊断可减少误差与不可减少误差,以及能让你交付真实价值的产品架构决策。

ai-engineering
reliability
production-ai
mlops
·tian

边缘AI推理:将推理从云端迁移的决策框架

面向工程师的实用决策框架:何时将LLM推理迁移到边缘端——延迟阈值、成本盈亏平衡分析、量化质量损耗,以及分割推理架构。

edge-ai
on-device-inference
llm
mlops
·tian

谁该为 AI 质量负责?导致生产系统崩溃的跨职能职责真空

AI 质量故障很少源于模型本身,更多是因为没有人明确负责。本文将教你如何在造成重大损失之前,修复这种问责真空。

ai-engineering
mlops
team-organization
llm-evaluation
·tian

AI 值班手册:当 Bug 是一次错误预测时的故障响应

传统运行手册在症状是'输出感觉不对'时会失效。这是一套专为生产环境中 AI 系统设计的实用分诊决策树、升级标准和复盘格式。

insider
mlops
incident-response
llm
+2
·tian

数据飞轮并非免费:构建真正提升 AI 产品的工程反馈闭环

大多数团队只是收集点赞或踩就自称拥有反馈闭环。真正的基础设施在于隐性信号提取、弱监督流水线以及闭环架构,能够在不陷入标注成本泥潭的情况下,将生产数据导回训练环节。

insider
ai-engineering
mlops
feedback-loops
+2
·tian

AI数据版本控制:团队发现得太晚的数据集-模型耦合问题

模型回退了通常意味着上游数据变了——本文介绍血缘图模式,让你在浪费一周重新调优提示词之前,就能将生产降级追溯到数据根因。

mlops
data-engineering
ai-infrastructure
data-versioning
·tian

模型弃用就绪:在 90 天倒计时之前审计你的行为依赖

当一个模型被弃用时,最难的部分不是更新 API 调用,而是发现系统所假设的所有隐形行为契约。以下是在时间耗尽前审计这些契约的方法。

insider
llm
production
mlops
+2
·tian

检索债务:为何你的 RAG 流水线会悄然退化

你的 RAG 流水线在上线时运作良好,但现在答案感觉有些不对劲,却没人能解释为什么。本文剖析检索债务如何通过过期嵌入、墓碑块和编码器漂移悄然积累,以及如何在用户察觉之前遏制这一问题。

insider
rag
embeddings
vector-search
+2
·tian

AI 功能下线指南:如何在不破坏用户信任的情况下停止 LLM 功能

面向工程师和产品经理的实用指南,介绍如何干净地停用基于 LLM 的功能 —— 涵盖数据生命周期拆解、行为迁移测试、用户信任动态以及沟通策略。

ai-engineering
llm
mlops
product-engineering
显示第 97–108 篇,共 136 篇