1 含有标签「instruction-following」

强制一致性偏见：当模型将你的意图向分布众数取整时

经过对齐的大模型会悄悄地将不寻常的请求向训练分布的众数取整。本文将探讨为什么标准评估会忽略这一点，以及捕捉这一现象的离模态约束方法。