跳到主要内容

1 篇博文 含有标签「data-loss-prevention」

查看所有标签

影子 AI:停止封禁,开始治理已经发生的泄露

· 阅读需 10 分钟
Tian Pan
Software Engineer

有一个数字应该可以结束关于你的公司是否存在影子 AI 问题的争论。在短短一个月内,监控企业浏览器流量的安全研究人员记录了超过 155,000 次复制操作和超过 313,000 次粘贴到生成式 AI 工具的操作。不是请求。不是页面浏览。而是复制和粘贴事件 —— 这正是工程师从生产日志中提取堆栈追踪(stack trace)并将其丢入聊天机器人以询问服务为何崩溃时所做的精确动作。

令人不安的事实是,这一切已经发生了。你的员工并没有等待 AI 政策委员会召开会议。几个月前,他们就已经把客户列表、合同草案、专有数据库架构以及半坏的函数粘贴到了消费级聊天机器人中,而且他们是通过你的 IT 部门无法看到的个人账号进行的。问题不再是如何防止影子 AI。而是如何治理一种已经普遍存在、大多不可见且不会停止的行为。