跳转到主要内容

95 含有标签「llmops」

Posts tagged "llmops" on TianPan.co.

查看所有标签

·tian

AI 功能依赖图:当提示词修改成为静默破坏性变更时

提示词修改对每一个消耗其输出的下游功能来说都是一项破坏性变更。清单、实时语料库契约测试和漂移警报,是团队在下一次故障替他们画出 AI 依赖图之前,主动绘制该图谱的方法。

insider
ai-engineering
llmops
observability
+2
·tian

评测分诊队列:为什么 FIFO 会错过那些至关重要的失败

评测失败的 FIFO 队列浪费了流程中最昂贵的资源 —— 评审员的时间。根据流量、严重程度和新鲜度对失败进行评分,按集群进行批处理,并保留对抗性配额。

evals
llmops
ai-engineering
observability
·tian

每个租户的提示词编译:当你的系统提示词变成构建产物时

多租户 AI 团队在面对每个租户的提示词差异时,会意外地变成编译器工程师 —— 而运营账单会在第 6 个月如约而至。本文探讨了为什么大规模的提示词应该是构建目标,而不是配置文件。

insider
prompt-engineering
multi-tenancy
llmops
+2
·tian

无需 PR 的 Prompt 修改:你的 AI 团队正在失效的交付速率指标

AI 产品中的行为变更不再通过 PR 进行。领导层信任的仪表盘忽略了产品变更的主要来源,这种误判正在重塑 AI 团队的评估方式。

ai-engineering
prompt-management
engineering-metrics
llmops
·tian

提示词组合:管理一组提示词,而非单一的最佳提示词

生产环境中的提示词管理通常只选取单一的最优解。应当将其视为一个投资组合:通过加权变体、感知分段的分配以及每周再平衡来进行管理。

insider
prompt-engineering
llmops
ai-platform
+1
·tian

Prompt 回滚不像代码:为什么 git revert 是错误的原子操作

git revert 恢复的是确定的过去状态。而 Prompt 回滚必须处理缓存、对话历史、评估基准以及错误的 Prompt 已经形成的 A/B 测试分群——大多数团队都是在遭受挫折后才意识到这一点。

insider
llmops
prompt-engineering
deployment
+1
·tian

平台就绪差距:当 AI 功能先于运维基础设施上线时

AI 功能在运维平台成熟前就已上线,导致债务不断累积。设立发布门槛、明确负责人以及有计划地推进平台建设是唯一的出路。

ai-platform
llmops
ai-strategy
engineering-leadership
·tian

基于模型性能而非用户分群的 AI 功能灰度控制

传统的特性标志(feature flags)基于用户分群进行控制 —— 但 AI 质量故障会同时影响所有人,且永远不会触发错误警报。本文将介绍基于性能条件的门控如何解决这一问题。

llmops
feature-flags
ai-deployment
model-monitoring
·tian

AI 智能体的黄金路径:平台团队如何在不成为瓶颈的前提下推动落地

将 AI 审批流程集中管控的平台团队会成为瓶颈。解法是黄金路径——有主见的默认配置,让产品团队能够自主交付 AI 功能,同时将治理内嵌到基础设施,而非审批队列。

insider
platform-engineering
ai
llmops
+1
·tian

当准确率成为负债:用户如何围绕 AI 的失败模式构建工作流

提升 AI 模型的准确率可能会让你最忠实的用户遭受重创——因为他们已经在旧的失败模式上构建了承重的变通方案。以下是 AI 团队在发布模型更新前需要具备的向后兼容思维。

ai-engineering
llmops
product
model-versioning
·tian

AI 模型 API 是你看不见、固定不了、也追踪不到的软件依赖

基础模型 API 在没有语义化版本控制的情况下改变行为,从不出现在你的锁文件中,也不被 SBOM 工具追踪——以下是防止由此导致生产故障的规范实践。

ai-engineering
llmops
dependency-management
reliability
·tian

AI Ops 不仅仅是平台工程:运行 LLM 服务如何颠覆你的 SRE 策略手册

运行 LLM 服务需要一种与微服务截然不同的运营准则。本文将探讨现有的 SRE 策略手册在哪些方面可以迁移、在哪些方面会失效,以及你尚未具备的新型运维手册类别。

llmops
sre
ai-engineering
production-ai
+1
显示第 37–48 篇,共 95 篇