跳转到主要内容

172 含有标签「evaluation」

Posts tagged "evaluation" on TianPan.co.

查看所有标签

·tian

评估天花板:当你的黄金测试用例失去区分度时

一旦每个候选模型在相同的测试用例上都获得了 95+ 的分数,你的评估套件就不再具备任何衡量价值 —— 是尺子不再适用,而不是被测平台的问题。

insider
ai-engineering
evaluation
llm
+2
·tian

延迟预算博弈:如何告诉产品经理“实时性”是有能力代价的

一种在延迟目标成为正式承诺前与产品进行谈判的结构化方法——包含转换表、“三选二”框架,以及为什么 TTFT 通常是真正关键的指标。

ai-agents
latency
product-engineering
llm-architecture
+1
·tian

多模态通道冲突:当模型在视觉与文本之间自我矛盾时

多模态模型会静默地将冲突的视觉和文本通道融合为自信的混合答案。本文探讨这种失效发生的场景、评估指标为何会漏掉它,以及如何构建一个冲突检测原语。

insider
multimodal
vision-language-models
evaluation
+2
·tian

Prompt 卧推:对“快乐路径”之外的提示词进行压力测试

大多数 prompt 评估只针对“快乐路径”打分而忽略了长尾情况。构建一个涵盖长度、语域、语言和正式程度变化的压力矩阵,并根据性能下降曲线而非单一的准确率数值进行评分。

ai-engineering
evaluation
prompt-engineering
robustness
+1
·tian

采样漂移:当 Temperature 和 Top-P 变成团队内部的“口头传说”

生产环境中的采样配置往往堆积了大量未经记录的 Temperature、Top-P 和惩罚项数值。当初设置这些参数的理由早已模糊,但其影响却在不断叠加。本文介绍一种捕捉此类问题的工程规范。

llm
sampling
prompt-engineering
ai-engineering
+1
·tian

幻影技能:当你的智能体展示出你从未测试过的能力

当用户基于未经测试验证的 AI 智能体行为构建工作流时,你发布的正是你无法维护的能力。在下一次模型升级悄然移除这些“幻影技能”之前,你需要一套发现它们的学科方法。

ai-engineering
evaluation
agents
production
+1
·tian

生产环境偏差审计:在用户发现之前捕捉 AI 歧视

预发布的公平性审计在模型接触到真实流量的那一刻就会失效。这是一份关于指标、切片级审计、回归闸门以及监控基础设施的实用指南,旨在 AI 偏差漂移影响用户之前将其捕捉。

ai-fairness
mlops
ai-governance
evaluation
·tian

对正确答案的点踩:当用户反馈训练出谄媚行为

点踩评分将“错误”与“不受欢迎”混为一谈。针对原始信号优化提示词训练出的是迎合而非准确性——而且这种数学偏差会随规模扩大而恶化。

ai-engineering
evaluation
rlhf
product
·tian

80% 陷阱:聚合 RAG 指标如何掩盖系统性长尾失效

报告 80% 检索准确率的 RAG 系统往往掩盖了长尾查询中的系统性失效。本文将探讨如何审计覆盖范围缺口,并在不降低头部性能的情况下进行修复。

insider
rag
retrieval
evaluation
+1
·tian

集成 vs. 辩论:两种多模型验证范式及其失效场景

运行更多模型并不保证更好的答案。当前沿 LLM 共享训练数据时,它们的错误相关性达到 r = 0.77 —— 使得三个模型实际上仅相当于 1.3 个独立模型。本文将深入分析集成与辩论验证、它们各自的失效模式,以及当两种方法都失效时的情况。

insider
multi-agent
llm
evaluation
+1
·tian

反馈信号时序问题:为何你的 AI 指标正在欺骗你

点赞/踩和 CSAT 评分往往与 AI 产品的长期价值背道而驰。本文介绍如何构建真正能捕捉核心价值的度量体系。

insider
ai
product
metrics
+2
·tian

LLM-as-Judge 的对抗性失效:当你的评测框架被操控

一个输出固定回复的「空模型」在 AlpacaEval 上拿下了 86.5% 的胜率。本文系统梳理 LLM 评测框架被操控的方式、其内在的结构性偏差,以及让评测流水线保持诚实的审计方案。

insider
evaluation
llm
ai-engineering
+1
显示第 49–60 篇,共 172 篇