跳到主要内容

影子 AI:停止封禁,开始治理已经发生的泄露

· 阅读需 10 分钟
Tian Pan
Software Engineer

有一个数字应该可以结束关于你的公司是否存在影子 AI 问题的争论。在短短一个月内,监控企业浏览器流量的安全研究人员记录了超过 155,000 次复制操作和超过 313,000 次粘贴到生成式 AI 工具的操作。不是请求。不是页面浏览。而是复制和粘贴事件 —— 这正是工程师从生产日志中提取堆栈追踪(stack trace)并将其丢入聊天机器人以询问服务为何崩溃时所做的精确动作。

令人不安的事实是,这一切已经发生了。你的员工并没有等待 AI 政策委员会召开会议。几个月前,他们就已经把客户列表、合同草案、专有数据库架构以及半坏的函数粘贴到了消费级聊天机器人中,而且他们是通过你的 IT 部门无法看到的个人账号进行的。问题不再是如何防止影子 AI。而是如何治理一种已经普遍存在、大多不可见且不会停止的行为。

这篇文章讨论的是这种心态的转变:为什么屏蔽的本能会失败,如何真正发现已经发生的泄漏,以及在实践中一个经过批准但受治理的替代方案是什么样的。那些处理得好的公司并不是防火墙规则最严格的公司。他们是那些承认对 AI 的需求是真实的,并决定按照自己的条款来满足这种需求的公司。

规模比你的调查报告所显示的更严重

首先看采用率数据,因为它们重构了整个局面。现在大约有三分之二的员工在工作中使用 AI 工具,其中绝大多数是通过企业无法控制的个人账号进行的。一项被广泛引用的研究发现,大约 90% 公司的员工都在使用聊天机器人,而且大多数人都会主动向 IT 部门隐瞒。工程团队处于这种分布的最顶端 —— 这并不奇怪,因为对于一个完成模式(pattern completion)的模型来说,编写代码是最自然的选择。

数据泄露紧随其后。调查一致显示,三分之一或更多的员工承认曾将公司敏感信息粘贴到公共 AI 工具中,而实际数字肯定更高,因为这个问题依赖于人们对已经隐瞒的行为进行自我报告。2026 年 Verizon DBIR 将影子 AI 提升为顶级内部威胁类别,分析了超过 850,000 起与上传到生成式 AI 工具有关的数据丢失事件。涉及影子 AI 的违规行为比基准线高出数十万美元,而且绝大多数发生违规的组织根本没有任何针对 AI 的访问控制。

这是最应该让你担心的地方:你的内部调查是你拥有的最不可靠的工具。当你询问“你是否使用未经批准的 AI 工具”时,你衡量的是在对后果的恐惧下的诚实程度,而不是行为。报告的使用情况与实际使用情况之间的差距正是问题的核心。你根据调查数据做出的每一个治理决策都是基于虚假的信息。

为什么屏蔽会失败 —— 而且会让情况变得更糟

默认的反应是禁止。Samsung 是一个典型的警示案例:在允许使用 ChatGPT 的 20 天内,工程师在三起独立的事件中泄露了敏感的半导体源代码和内部会议记录,随后该公司彻底禁用了生成式 AI。Amazon、JPMorgan 和一众主要银行也发布了类似的禁令。这看起来很有决断力,但几乎毫无作用。

其中的原理很简单。网络层级的屏蔽只能治理穿过你网络流量。在办公室代理服务器处碰壁的员工,会在手机上打开同一个聊天机器人,连接手机热点,或者切换到你的屏蔽列表从未听说过的数十个较新的 AI 服务之一。你并没有消除这种行为。你只是将其转移到了一个没有日志、没有 DLP 且没有审计跟踪的设备上 —— 这是敏感数据流向的最糟糕的地方。

因此,禁令产生了与其目标完全相反的结果:

  • 使用量并未下降。报告的使用量下降了。 活动转入地下,在风险最高的地方,你的可见度降为零。
  • 你失去了最好的信号。 流经企业基础设施的流量至少是可观察的。将其推向个人设备,你就失去了衡量问题所需的遥测数据。
  • 你惩罚了错误的本能。 将代码粘贴到聊天机器人的工程师是想更快地交付。禁令告诉那些最有生产力的员工,官方对真实需求的回答是“不”,这保证了他们会绕过你。

根本原因不是执行力不足。而是需求未得到满足。员工之所以求助于影子 AI,是因为它确实有用,而且目前还没有一个足够快、足够强大或足够针对他们工作的官方许可方案。没有替代方案的禁令并不能解决这些需求;它只是掩盖了需求的证据。

发现已经发生的泄漏

在治理之前,你必须先看见。大多数组织无法完全说明他们的敏感数据已经流向了何处,而标准工具存在一些关键的盲点。解决方法是分层遥测,每一层都回答其他层无法回答的问题。

网络和出口分析为你提供广度。 DNS 查询、代理日志、NetFlow、TLS SNI 字段以及 JA3/JA4 指纹让你能够建立一个高频 AI 域名的观察列表,并实时对照出站流量。这就是你如何清点正在使用的工具、发现异常的数据量峰值并捕获绕过尝试的方法。它是宽而浅的 —— 它告诉你连接发生了,而不是告知连接中传输了什么或谁授权了它。

CASB 和 SaaS 日志为你提供身份。 当影子 AI 隐藏在已经获批的 SaaS 产品中时 —— 比如会议记录器、内置 AI 功能的 CRM —— 网络遥测看到的只是获批流量并对此视而不见。CASB 和 SSPM 日志回答了“哪个账号授权了此操作”,这是原始数据包无法做到的。关键的注意事项是:在个人标签页中打开的基于浏览器的聊天机器人完全运行在 CASB 可观察的范围之外。

浏览器和端点遥测为你提供深度。 这就是复制粘贴计数的来源。浏览器层级的代理可以查看实际的交互 —— 粘贴了什么、粘贴到了哪个工具、由谁粘贴 —— 它是捕获个人账号、个人标签页使用情况的唯一一层,而这些使用情况挫败了上游的一切手段。这也是未经审查的浏览器扩展程序浮现的地方,这些程序正悄悄地通过无人审查的 OAuth 权限将页面内容发送给外部模型。

没有任何一层是足够的。网络日志会遗漏 SaaS 内部的 AI;CASB 会遗漏浏览器标签页;端点代理会完全遗漏非托管设备。将发现视为一幅综合画像,并将 OAuth 授权屏幕视为一类审计目标 —— 授予免费 AI 扩展程序的高风险权限,就是一个带有友好登录按钮的数据泄露通道。

受批准且受监管的替代方案

发现(Discovery)告诉你规模的大小。持久的解决办法是为需求提供一个合法的去处。行之有效的模式是建立一个内部 AI 网关:一个单一、受批准的路径,所有的模型流量都经此流转,并受到监控和监管,从而使以合规的方式使用 AI 同时也变成最便捷的方式。

一个构建良好的网关可以完成一些消费级聊天机器人无法为你做到的事情:

  • 边界处的脱敏处理。网关在每一条 Prompt 离开你的边界之前对其进行检查,识别 PII(个人身份信息)、密钥和源代码模式,并用占位符掩盖敏感实体或直接拦截请求。命名实体识别(NER)可以将真实值替换为 Token,让模型在脱敏版本上进行推理,然后在响应中重新插入原始值——这样提供商就永远看不到原始数据。
  • 强制执行零数据保留和退出训练计划。通过你自己的合同和密钥进行路由,可以让你一次性关闭整个组织的 Prompt 保留和提供商训练选项,而不是寄希望于每个员工都能在默认设置错误的免费账户中找到正确的开关。
  • 身份识别、审计和频率控制。每一次调用都可以追溯到具体的人员,记录在案以备审计,并可以按团队或密钥进行管理。当事故发生时,你拥有一条清晰的追踪线索,而不是只能耸耸肩表示无奈。

战略重点不在于功能列表,而在于重定向(Redirection)。无论是开源代理还是商业控制平面,其存在的意义都是为了让受监管的路径成为阻力最小的路径。如果受批准的工具比工程师在个人标签页中打开的聊天机器人更慢、更笨或限制更多,那么你就重新制造了当初产生影子 AI(Shadow AI)的完全相同的环境。受监管的替代方案必须足够好,以至于没人想去用未受监管的工具——这就是博弈的关键所在。

监管需求,而非工具

影子 AI 既不是工具的失败,也不是纪律的失败。它是强劲需求遇到缓慢或缺失的官方供应时,必然产生的结果。数据已经被粘贴;模式(Schemas)、合同和客户记录已经存在于你不受控的基础设施对话历史中,而且没有任何防火墙规则可以回溯时间来取回它们。

所以,改变你的优化目标。停止试图阻止 AI 的使用,转而尝试让它变得可见且安全。构建分层遥测系统,以查看实际发生了什么——坦率地说,也包括已经发生了什么。建立一个网关,让安全的路径成为方便的路径。衡量成功的标准不应是你封禁了多少工具,而应是还有多少 AI 流量在流向你看不见的渠道。在未来几年中胜出的组织不会是那些只会说“不”的组织。而是那些在最优秀的工程师停止询问之前,就说“好的,在这里,安全地使用”的组织。

References:Let's stay in touch and Follow me for more thoughts and updates