跳到主要内容

1 篇博文 含有标签「indemnification」

查看所有标签

AI 赔偿缺口:当模型出错且没有人的合同能为你提供保障时

· 阅读需 12 分钟
Tian Pan
Software Engineer

一位客户的总法律顾问给你发来一封只有一行的邮件:“如果下周模型在我们的合规工作流中捏造了事实,谁的保险来赔付?”你把邮件转发给工程副总裁,他转发给法务,法务又转回给你。等这条转发链结束时,三个人都分别假设其他人已经仔细阅读过模型提供商的条款。但实际上没人读过。合同之间并没有真正的衔接——而你,作为中间层,是第一个发现这一点的人。

这就是 AI 赔偿缺口。它的存在是因为每个企业级 AI 产品都处于一个由三环组成的责任链中——终端客户、你的产品、模型提供商——每一环都默默假设下层在承担责任。模型提供商的条款将赔偿限额设定在过去 12 个月的费用总额左右,并明确排除对输出准确性的责任。你的 MSA(主服务协议)通过客户律师未仔细阅读的下游转嫁条款继承了这些排除项。而你的客户与他们的下游用户(当输出出错时真正的链尾受害者)签署的合同却将你的产品列为责任方,且没有明确的上游追索权。

第一次索赔发生时,大家才会发现这个缺口。在此之前,责任链上的每一个人都在抱着侥幸心理得过且过。