·tian
共同演化陷阱：AI 功能的成功如何正在悄悄破坏其评估体系
当用户适应你的 AI 功能时，他们会改变该功能最初评估时所基于的分布。本文将探讨如何检测用户引发的分布偏移，并构建随时间推移仍能保持真实的评估体系。
ai
evaluation
mlops
distribution-shift
+1·tian
反馈循环陷阱：为什么当用户产生适应性行为时 AI 功能会退化
自诱导分布偏移是生产环境中 AI 功能的隐形杀手。当用户根据你 AI 的输出调整其行为时，在这些被调整后的数据上进行重新训练反而会使问题恶化。本文将探讨如何检测、衡量并打破这一循环。
ai-engineering
production-ai
distribution-shift
monitoring
+1