跳转到主要内容

95 含有标签「llmops」

Posts tagged "llmops" on TianPan.co.

查看所有标签

·tian

那些在你没留意时变简单的评估集

一个全员通过的 LLM 评估套件已经失去了衡量意义。探讨为什么静态评估集会趋于饱和、如何识别这一现象,以及如何保持有效的评分梯度。

evaluation
llmops
ai-engineering
testing
·tian

悄然失效的评估:当你的测试套件在衡量一个已不存在的世界

全绿的评估运行可能是在认证过去而非现在。本文探讨评估套件如何衰减,如何区分真正的性能退化与过时的测试,以及如何在套件中构建新鲜度保障机制。

evals
llmops
ai-engineering
testing
·tian

当 Agent 出错时谁会被呼叫:针对非确定性系统的轮值制度

Agent 的故障难以复现、无法回滚,且在所有的基础设施仪表板上都显示正常。本文将教你如何针对无法单步调试的系统,重写运行手册、警报规则和轮值预期。

insider
ai-agents
observability
sre
+2
·tian

AI 功能的闲置成本该由谁承担

无论是否有流量,预置吞吐量、预留 GPU 以及热启动的向量索引都会产生费用。闲置成本之所以不断增长,是因为它处于产品、基础设施和财务之间的组织缝隙中 —— 本文将探讨如何让这一差距变得透明并明确归属。

finops
ai-infrastructure
cost-optimization
llmops
·tian

你的销售团队正在悄悄运行的演示账户评估集

销售演示账户是一个对业务至关重要但无人管理的评估集 —— 它们往往是模型迁移悄无声息地毁掉价值六位数潜在客户演示的原因。本文将介绍如何将它们转变为一等公民级别的发布门禁模式。

ai-engineering
evals
llmops
sales-engineering
·tian

当市场部阅读你的评估案例时:跨职能可见性问题

你的评估集会被销售、市场、法务和客户成功部门查阅 —— 并且他们每个人从中提取的产物都与你的初衷不同。在客户从采购幻灯片中认出自己的投诉之前,请构建好“工程版”与“可共享版”的评估集隔离。

ai-engineering
evals
governance
cross-functional
+1
·tian

区域分层评估 (Locale-Stratified Evals):如何捕捉英语测试集无法发现的非英语回归问题

英语优先的评估汇总往往会掩盖法语、日语和葡萄牙语查询中的性能倒退,直到用户流失时才被发现。通过区域分层评估、区域感知的评测员以及流量加权报告的规范,可以在用户感知之前捕捉到区域性的评估漂移。

ai-engineering
evals
localization
multilingual
+1
·tian

Agent 内部的提示词图谱:无人绘制的跨提示词回归链

规划器中四个词的修改,会导致下游验证器的通过率波动三个百分点。解决方案是将你的 Agent 提示词组合视为微服务网格——关注图谱、边、契约、爆炸半径 PR 审查、逐边回归评估以及边负责人。

insider
ai-agents
prompt-engineering
evals
+2
·tian

重复问题检测:你的单轮评估无法察觉的会话级盲点

单轮评估分数可以保持在绿色状态,但用户可能在三次重新表述同一个问题后流失。这种失败发生在会话层面——这里告诉你如何检测和评分。

insider
ai-engineering
evaluation
chatbots
+2
·tian

影子评估:当私有切片取代了你的评估汇总

私有的评估 Notebook 看起来效率很高,但会让组织缺乏统一的评估汇总。解决方案是建立合并门控契约:共享框架、验证过的切片、明确的负责人,以及任何人都能重新运行的排行榜。

evals
ai-engineering
llmops
ci-cd
+1
·tian

过时的 Few-Shot 示例以及你的提示词仓库所忽略的半衰期

你系统提示词中的经典示例正在悄悄地教导模型一个已不存在的产品。评估分数之所以保持绿色,是因为评估集也随之腐化了。

ai-engineering
prompt-engineering
llmops
evaluation
·tian

AI 代码审查漂移:当你的 LLM 审查标准比代码演进得还快

LLM 代码审查器并非一个稳定的工具 —— 它是由多个独立漂移的组件组成的堆栈。本文将探讨为什么你的 PR 机器人捕获率会悄无声息地下降,以及哪些校准纪律能防止安全网变薄。

insider
ai-code-review
llmops
drift
+2
显示第 25–36 篇,共 95 篇