跳到主要内容

1 篇博文 含有标签「implicit-signals」

查看所有标签

为什么你的“点踩”数据在误导你:生产环境 AI 反馈循环中的选择偏差

· 阅读需 11 分钟
Tian Pan
Software Engineer

你在六个月前为你的 AI 功能上线了“点赞/点踩”按钮。你有了数千条评分。你构建了仪表盘。你甚至针对负面案例进行了微调。然而,你的产品却在反馈数据无法解释的方面变得越来越糟。

问题不在于用户对自己不喜欢的东西判断错误。问题在于,点击反馈按钮的用户相对于你的实际用户群体来说,是一个具有系统性非代表性的样本——而你基于这些数据做出的每一个决定都会继承他们的偏差。