2 篇博文 含有标签「machine-unlearning」

一个删除请求进入了你的队列。用户行使了他们的被遗忘权（Right to Erasure），而在法律上你有一个月的时间让他们的个人数据消失。在常规系统中，这只是一个 DELETE 语句和一个得意的审计日志条目。但在 AI 系统中，这一刻你会发现你的数据并不只存在于一个地方——它已经散布在微调模型的权重中，固化在向量索引中，缓存在十几个检索快照中，并复制到了上季度的评估集中。没有单行数据可以删除。从非常字面意义上的工程层面来看，该用户是无法删除的。

这并非假设。2025 年 3 月，欧洲数据保护委员会（EDPB）在 30 个国家监管机构中发起了一项协调执法行动，专门针对被遗忘权。监管机构已达成一个令人不安的共识：将某人的数据纳入训练属于“处理”行为，因此 GDPR 第 17 条适用于模型，而不仅仅是数据库。每个 AI 团队最终都会面临一个问题：输出抑制（Output Suppression）——即教导模型拒绝谈论某人——是否足够，还是你实际上必须从系统中移除其数据的影响。诚实的答案是，大多数团队从未针对这两种情况进行过设计。

已经运行了九个月的生产环境微调检查点（checkpoint），现在正躺在你首席技术官（CTO）和外部法律顾问之间的 Slack 讨论线程里。你原本在一个看似宽松的许可证下抓取的数据源更改了条款，发出了通知，并点名了你的模型。你的工程师想知道是否可以简单地对违规记录进行模型“去训练”（untrained）。法律顾问想知道权重文件本身现在是否成了受监管的产物。通话中没有人能给出一个好的答案，因为你的训练流水线将许可证视为一种“事件”——仅在摄取时读取一次——而不是一种在你支付了 H100 费用后，外界仍能编辑的“状态”。

这是极少有微调指南会讨论的失效模式。分发数据集的许可证并不是你在数据摄取时走过的一个静态门槛。它是第三方持有的一项持续性主张，你无法控制，而且这项主张的半衰期正在缩短。Hugging Face 的官方法律仓库每隔几周就会悄悄记录针对特定数据集的 DMCA 下架通知——AoPS 撤回了 MATH 基准测试，PaperDemon 撤回了抓取的艺术作品，Archive of Our Own 在收到通知后的几小时内就删除了一批同人小说数据。每一次下架都是一个下游信号，表明某处的某个模型是基于分发权已经失效的数据进行训练的。