·tian
你的合成训练数据正在向均值坍缩
为填补数据集空白而生成的合成数据正悄然向均值收缩，抹去了你所需要的稀有案例。本文将探讨为什么逐例质量检查会忽略这一问题，如何衡量集合层面的多样性，以及如何将生成过程锚定在真实数据上。
synthetic-data
model-collapse
llm-training
data-quality
+1·tian
合成偏好陷阱：AI 排序的 RLHF 如何让你的模型悄然漂移到“老师”的口吻中
合成偏好数据看起来像是一顿免费午餐 —— 直到你的产品开始悄无声息地听起来和你用来训练它的“老师”模型一模一样。这是一份关于如何识别、衡量和限制 RLHF 风格漂移的实战指南。
rlhf
fine-tuning
llm-training
ai-engineering
+1