跳到主要内容

2 篇博文 含有标签「lifecycle」

查看所有标签

凭证残留:你已停用的智能体仍处于生产环境登录状态

· 阅读需 11 分钟
Tian Pan
Software Engineer

在你关停(sunset)一个智能体(agent)六个月后,一名安全审计员在团队的 Slack 上发消息问:“为什么这个 OAuth 应用仍然拥有公司 Google Workspace 的读取权限?”没人认得这个应用名称。有人 grep 了代码库——没有匹配项。有人检查了部署清单——也没有匹配项。最终,一位前任产品经理(PM)想了起来:那是会议摘要原型,一个在第三季度被砍掉的产品。面向用户的界面早已被删除。但 OAuth 授权、BigQuery 中的服务账号、Pinecone 索引、Slack 告警路由、Datadog 仪表盘、Splunk 保存的搜索、充满客户转录文本的评估数据集——所有这一切依然存在,依然已授权,也依然在计费。

这就是凭证残留问题,它是智能体时代最主要的运营失效。你发布的每一个智能体都会在各供应商、内部服务和数据系统中创建出一圈资源。当你通过删除代码来退役一个智能体时,你移除的可能仅占其创建内容的五分之一。剩下的部分作为“幽灵基础设施”留在生产环境中,无人认领、无人负责,而且最危险的是,它们依然持有凭证。

不存在的 AI 关闭开关:当用户参与共创归档内容时,如何下线功能

· 阅读需 12 分钟
Tian Pan
Software Engineer

在你发布 AI 写作助手六个月后,你打开分析仪表盘,发现了你想要的指标:平台上 40% 的用户生成文档现在包含 AI 创作的内容。董事会将此称为参与度提升。三周后,模型提供商涨价,单位经济效益发生逆转,有人提出了一个显而易见的问题:我们能把它关掉吗?你去寻找开关,却发现那并不是一个简单的开关。这是一次涉及产品、法务和 UX 层面的迁移,要干净利落地撤除它需要两个季度,并会耗费三个原本不知道自己是利益相关方的团队的政治资本。

!["https://opengraph-image.blockeden.xyz/api/og-tianpan-co?title=%E4%B8%8D%E5%AD%98%E5%9C%A8%E7%9A%84%20AI%20%E5%85%B3%E9%97%AD%E5%BC%80%E5%85%B3%EF%BC%9A%E5%BD%93%E7%94%A8%E6%88%B7%E5%85%B1%E5%90%8C%E5%88%9B%E4%BD%9C%E6%A1%A3%E6%A1%88%E5%90%8E%EF%BC%8C%E5%A6%82%E4%BD%95%E5%81%9C%E7%94%A8%E5%8A%9F%E8%83%BD"]

这是 AI 产品生命周期中没人预料到的部分。发布手册涵盖了提示词工程、频率限制、评估框架和应对失控成本的紧急开关。但它没提到,当用户花了半年时间生成的产物仅因生成器的存在而存在时,会发生什么。现在,你档案库中的读取路径依赖于一个你想要退役的功能。“关闭开关”只是一个概念:它是配置文件里的一个标志。而实际的停用是一套关于存量兼容、版本化、内容溯源以及一场关于参与度提升究竟是价值还是仅仅是依赖的尴尬对话的协调决策。