·tian
拒绝还是上报：置信度门控 AI 中的双阈值问题
单个置信度阈值将“拒绝”和“上报”这两个截然不同的决策强行合并为一个数字，而这种妥协正是导致你的信任度指标持续下滑的原因，即便在准确率看起来还不错的情况下也是如此。
insider
llm
ai-engineering
calibration
+2·tian
你的准确率提升了，但你的校准崩溃了
一个提升了 3 个百分点准确率的提示词重构，可能会悄无声息地破坏用户信任的对冲信号。使用 ECE、可靠性图表和拒绝率来衡量校准，而不仅仅是准确率。
calibration
evals
llm-ops
hallucinations
·tian
拒绝训练差距：为什么你的模型对错误的问题说“不”
语言模型中的拒绝机制实际上是两种截然不同的能力，但目前的训练流程往往将它们混为一谈。这导致模型一方面会拦截良性请求，另一方面却对那些无法可靠回答的问题自信地编造答案。
llm
ai-safety
evaluation
calibration
+1·tian
置信度-准确率倒置：为什么大语言模型在听起来最确信的地方往往最容易出错
前沿大语言模型在用户最信任的领域表现出最差的校准性。本文介绍如何量化这一问题，并构建能在真实损害发生前处理过度自信错误答案的系统。
llm
reliability
calibration
production-ai
+1·tian
生产环境中的 LLM 置信度校准：衡量与解决过度自信问题
那些声称 “我非常有信心” 的 LLM 往往就在那个点上出错。本文探讨如何衡量校准误差、为什么 RLHF 会让情况变得更糟，以及真正有效的生产环境设计模式。
llm
production
reliability
calibration
+1显示第 13–17 篇，共 17 篇
上一页2 / 2