跳转到主要内容

68 含有标签「testing」

Posts tagged "testing" on TianPan.co.

查看所有标签

·tian

删除评估用例是决策,而非清理

为了提升速度或降低成本而裁剪评估套件表面上是维护,但每删除一个用例都意味着放弃了一项团队不再能直观看到的保证。借鉴 API 弃用生命周期,有计划地退役评估用例。

insider
llm-evals
regression-testing
testing
+1
·tian

Eval 回填税:为什么每一次模型能力发布成本都超出了你的预算

新的模型能力会引入历史评估套件从未设计捕捉的失败模式 —— 而回填这些评估的工作是每一次能力发布中被低估的关键路径。

insider
evals
ai-engineering
capability-launches
+1
·tian

快照评估衰减:当绿色的 CI 不再意味着你的产品仍然可用

一个运行了六个月的绿色评估套件可能正在用昨天的现实测试昨天的产品 —— 本文将探讨快照评估衰减是如何在众目睽睽之下隐藏的,以及如何保持评估集的生命力。

insider
evals
ai-engineering
observability
+2
·tian

Agent 分支覆盖率:你的评测仅命中了 Happy Path,而非 Planner 的 If-Else 逻辑

Agent Prompt 中隐藏了评测套件从未执行过的 If-Else 分支。借鉴 MC/DC 的严谨性,通过分支 ID 监测 Planner 的决策,并基于覆盖率对 Prompt Diff 进行拦截,防止隐性的路由错误流入生产环境。

insider
ai-agents
evaluation
testing
+1
·tian

需求文档、代码、测试皆出自一人:你正在悄然失去的独立性

当同一个模型编写需求文档、代码和测试时,“所有测试通过”不再是功能正常的证据 —— 它仅仅证明了模型在逻辑上是自洽的。

ai-engineering
testing
code-review
llm-coding
·tian

LLM-as-Judge 的对抗性失效:当你的评测框架被操控

一个输出固定回复的「空模型」在 AlpacaEval 上拿下了 86.5% 的胜率。本文系统梳理 LLM 评测框架被操控的方式、其内在的结构性偏差,以及让评测流水线保持诚实的审计方案。

insider
evaluation
llm
ai-engineering
+1
·tian

你的评测套件是一座博物馆:生产故障应当成为明天的测试用例

静态评测框架会随着产品的增长而过时——它们只能测试作者预设的场景。以生产为驱动的反馈闭环能够自动将真实故障转化为永久性回归测试,使评测套件始终与实际用户行为保持一致。

insider
llm
evaluation
ai-engineering
+2
·tian

Staging 环境的谎言:为什么预生产阶段对 AI 系统失效了

Staging 环境给了 AI 系统虚假的安全感。本文将探讨为什么它们在架构上误导了团队,并介绍真正有效的生产优先(production-first)架构。

insider
llm
production
testing
+2
·tian

评估集拥挤问题:为什么更大的测试套件捕获的回归反而更少

扩大 AI 评估套件往往会降低其捕获真实回归的能力。本文将探讨评估套件为何会偏向于工程上方便处理的边缘情况,并介绍如何通过强制排序方法论保持其预测性。

ai-engineering
evaluation
testing
llm-ops
·tian

AI 系统中的功能交互故障:当两个正常运行的组件结合时发生崩溃

通过了每一项单独测试的 AI 功能,在组合使用时可能会悄无声息地失效。本文将介绍如何在用户发现之前审计这些接缝处的风险。

insider
ai-engineering
testing
reliability
+1
·tian

提示词契约测试:多智能体团队如何协同而不互相破坏

多智能体AI系统在生产环境中的失败率高达41%–87%,其中超过三分之一是智能体间的协调故障。提示词契约测试——将消费者驱动契约的思想应用于LLM提示词——正是团队在不互相破坏的前提下持续交付的方法。

ai
agents
multi-agent
testing
+1
·tian

Prompt 变异测试:找出哪些系统提示词指令真正起作用

大多数系统提示词都包含冗余信息。通过扰动框架可以揭示模型真正执行了哪些指令,以及哪些指令被默默忽略了。

insider
llm
prompt-engineering
testing
+1
显示第 13–24 篇,共 68 篇