跳转到主要内容

33 含有标签「devops」

Posts tagged "devops" on TianPan.co.

查看所有标签

·tian

CI 流水线中的 AI 智能体:如何为无法单元测试的部署设置质量关口

传统的 CI/CD 基础设施并非为非确定性软件而设计。本文介绍如何为 LLM 驱动的功能添加有意义的部署质量关口,同时避免将流水线变成烧钱的评估农场。

ai-engineering
ci-cd
llm
testing
+1
·tian

LLM 服务商故障手册:当 AI 基础设施宕机时如何保持服务在线

当 LLM 服务商宕机时,你只有几分钟时间做出决策。这份操作手册涵盖多服务商故障切换、优雅降级以及用户沟通策略,帮助你的产品在危机中屹立不倒。

llm
production
reliability
incident-response
+1
·tian

提供商抽象税:构建无需重写即可切换模型的 LLM 应用

直接在单一 LLM 提供商上进行开发的团队会积累提示词习惯、工具模式约定和行为依赖,这些都会转化为迁移债务。本文介绍了一种抽象层设计,使切换提供商变成只需修改配置的工作,而非长达数月的重写工程。

llm
engineering
architecture
devops
·tian

模型 EOL 倒计时:将供应商 LLM 视为外部依赖项管理

每个锁定的模型版本都有一个你无法控制的弃用日期。本文介绍如何将供应商 LLM 视为外部依赖项,在通知到来之前就内置行为回归测试套件、EOL 处置手册和迁移测试框架。

insider
llm
production
devops
+1
·tian

Prompt 静态分析:你的 AI 系统缺失的预部署门控

大多数团队发布提示词变更到生产环境时,审查力度还不如一次 CSS 调整。对提示词进行静态分析——捕获指令冲突、可注入的模板插槽和位置陷阱——正是你的 AI 系统缺失的预部署门控。

insider
ai-engineering
prompt-engineering
devops
+1
·tian

智能体凭据轮换:尚未被映射到 AI 领域的 DevOps 难题

自主 AI 智能体在工具集成中积累了大量长期存在的密钥,而传统的轮换策略往往会在任务执行中途导致其中断。四种架构模式——即时置备、双重刷新、工具与运行时隔离以及连接器抽象——能够确保智能体在凭据生命周期内安全运行。

insider
ai-agents
devops
security
+1
·tian

智能体测试的模拟环境:构建代价为零的沙箱

“看起来像生产环境” 的预发布环境往往误导性大于指导意义。本文将介绍如何构建模拟环境,让智能体在伪造的基础设施上执行真实操作,并阐述为什么只模拟不可逆工具是投资回报率最高的方法。

ai-agents
testing
infrastructure
devops
·tian

LLM 应用的 CI/CD:为什么部署 Prompt 与部署代码完全不同

部署新的 Prompt 版本可能会以仪表盘无法察觉的方式悄然破坏生产环境。本文将介绍如何为 LLM 应用构建完善的 CI/CD 流水线 —— 从 Prompt 版本控制和阴影测试,到金丝雀发布和行为偏移检测。

insider
llm
devops
ai-engineering
+1
·tian

生产级 AI 系统中的提示词版本控制与变更管理

当一个仅有三个词的提示词改动由于缺乏回滚路径而破坏了营收流水线时,根本原因总是一样的:提示词被视为临时配置而非软件代码。本文是一份关于提示词版本控制、静默回归检测、金丝雀发布以及“谁该负责提示词变更”这一组织问题的完整指南。

llm
production
prompt-engineering
devops
+1
显示第 25–33 篇,共 33 篇
上一页3 / 3