跳转到主要内容

95 含有标签「llmops」

Posts tagged "llmops" on TianPan.co.

查看所有标签

·tian

LLM 作为数据工程师:AI 驱动的 ETL 中的静默失败

LLM 可以处理手工编码的 ETL 流水线容易忽略的杂乱数据边缘情况,但它们也会在没有任何错误信号的情况下生成极具误导性的错误转换。这里有一套验证、沙盒和监控技术栈,旨在确保 AI 增强的 ETL 在生产环境中的安全运行。

ai-engineering
data-engineering
etl
llmops
·tian

模型弃用本质上是系统迁移:如何应对模型供应商的停用计划

当你的推理供应商下架某个模型时,更换模型 ID 只是最微不足道的一步。本文将介绍如何通过工程规范,在模型停用期间保持生产级 AI 的稳定运行。

ai-engineering
llmops
production-ai
model-migration
·tian

模型升级即破坏性变更:你的部署流水线遗漏了什么

基础模型的更新往往会通过输出格式偏移、语气变化和推理分歧,在悄无声息中破坏下游系统。本文将介绍用于检测和管理这些问题的基础设施。

llmops
ai-engineering
production-ai
model-versioning
·tian

你的 Prompt 是一笔没有类型系统的负债

你发布的每一个 prompt 都是可变的全局状态。Prompt 回归对 CI 不可见,变更无法原子性回滚,而漂移的速度比文档更新更快。本文介绍将 prompt 视为一等可部署制品的版本管理与治理架构。

prompt-engineering
production-ai
llmops
observability
·tian

AI 技术债的三座无声时钟

与代码债务不同,AI 特有的技术债——提示词漂移、评估侵蚀和嵌入陈旧——会以隐蔽的方式累积。本文将介绍如何在这些时钟耗尽之前检测它们。

ai-engineering
llmops
technical-debt
production-ai
+1
·tian

AI 应用的开发与生产环境一致性:预发布环境欺骗你的七种方式

预发布环境系统性地歪曲了 LLM 应用在生产环境中的表现。本文介绍了从 Prompt 缓存预热到隐蔽的流量分配漂移等七种特定的失效模式,以及发现这些问题的预发布检查方法。

llmops
production
testing
infrastructure
+1
·tian

模型弃用是一场等待发生的生产事故

LLM提供商会在6-12个月的窗口期内弃用模型,但大多数团队将迁移视为积压工作——直到它变成凌晨3点的故障。以下是使模型升级变得平常无奇的运营手册。

llmops
ai-engineering
production
reliability
·tian

随机系统的值班响应:为何你的 AI 运行手册需要重写

传统故障响应假设故障是可复现的,但 LLM 驱动的系统并非如此。以下是如何针对非确定性 AI 重写告警方案、分类决策树和事后分析模板。

insider
ai-engineering
sre
incident-response
+2
·tian

AI Agent 的 SRE:凌晨 3 点到底什么会出故障

传统的 SRE 运行手册无法涵盖 AI Agent 的失效模式。本文将探讨在生产环境中实际会发生的故障——死循环、上下文溢出、幻觉导致的 API 调用——以及如何通过监控、报警和成本控制来帮助值班工程师有效应对。

insider
ai-engineering
llmops
reliability
+1
·tian

集成你不拥有的系统:第三方 AI 模型 API 集成实战手册

依赖外部模型 API,意味着限流、行为漂移和成本冲击都由你来承担。本文介绍一套能够应对提供商变更、服务中断和静默模型更新的系统架构。

ai-engineering
llmops
production
reliability
·tian

用户适配陷阱:为什么回滚 AI 模型会导致两次破坏

当模型更新引入了细微的错误行为时,用户会围绕它调整工作流程。当你发现并回滚时,你可能最终会得到两组被“破坏”的用户,而不是一组。

insider
ai-engineering
llmops
model-deployment
+1
·tian

沉默的回归:如何在不失去用户信任的情况下传达 AI 行为变化

当你悄悄更新模型或提示词时,高级用户会感受到真实的回归——即便整体指标有所改善。本文介绍如何检测行为漂移,并在不破坏用户信任的前提下传达 AI 变更。

insider
ai-engineering
llmops
ux
+1
显示第 73–84 篇,共 95 篇