跳转到主要内容

45 含有标签「governance」

Posts tagged "governance" on TianPan.co.

查看所有标签

·tian

发布前的爆炸半径清单:你的智能体团队遗漏编写的文档

大多数智能体团队在第一次事故发生时才发现缺失了爆炸半径清单。本文将介绍这一交付物、它所需的列,以及如何将其设为 CI 合并门槛以确保其准确性。

insider
ai-agents
security
governance
+1
·tian

影子 AI 治理难题:为什么禁止个人 AI 账号会让安全性变差

阻止员工使用个人 ChatGPT 或 Claude 账号并不能停止 AI 的使用 —— 反而会让其变得不可见。本文将探讨如何调研影子 AI、建立合规渠道,并避免治理演戏。

insider
ai
security
governance
+1
·tian

你的 AI 功能说明文档是运行时依赖,而非营销文案

当 Prompt 发生变化而帮助中心文章没有更新时,你的 AI 功能信任契约就会悄然失效 —— 而 Prompt 仓库可以预测这种差距。

ai-engineering
documentation
governance
prompt-engineering
+1
·tian

AI 风险登记簿:你的首席风险官在事故发生后的第二天会要求看什么

你的企业风险登记簿中有网络、供应商和监管相关的条目 —— 但没有关于那个刚刚利用你的凭证采取行动并导致客户可见损失的自主智能体的条目。以下是首席风险官(CRO)在事故发生后的第二天会要求的五个关键列。

ai-engineering
governance
risk-management
leadership
+1
·tian

AI 影子 IT:当产品团队构建自己的 LLM 代理时

影子 LLM 代理之所以会绕过成本归因、审计日志和数据处理协议 (DPA),是因为平台网关在面对产品交付期限时败下阵来。解决办法是建立一条“铺好的路” (Paved Road),在首 token 延迟 (TTFT)、功能对等和开发人员体验方面全面超越非官方渠道。

insider
ai-platform
shadow-it
llm-gateway
+2
·tian

潜伏在 Few-Shot 提示词模板中的客户记录

你在六个月前粘贴到 Few-shot 提示词中的 “代表性客户” 仍处于生产环境中 —— 它们可被重新识别、被重复发送,且对 DLP 隐形。

insider
ai-engineering
security
privacy
+2
·tian

两个 PM 的难题:当提示词所有权与产品所有权发生偏离时

大多数 AI 团队将提示词所有权与产品所有权分开,并在无人负责的回归问题中支付协调税。本文介绍了这种失败模式以及让这种分工得以存续的仪式——共享发布日历、统一仪表板、联合事故频道以及包含四个产出物的 RACI 模型。

insider
ai-product
organization
prompt-engineering
+2
·tian

AI 网络保险:你的智能体会首先发现的保障缺口

大多数网络保险和 E&O 保单是为数据泄露和程序漏洞设计的,而非针对使用你的凭证运行的智能体。这种保障缺口通常在理赔时才会显现,而那时往往没人提前为此做好规划。

insider
ai-engineering
risk-management
cyber-insurance
+2
·tian

你的智能体有两条发布流水线,而非一条

智能体提示词和智能体工具在磁盘上看起来像是同一种资产,但它们的失效方式完全不同 —— 通过同一条流水线发布它们,是导致大多数智能体事故的根本性架构错误。

insider
ai-agents
release-engineering
governance
+2
·tian

评估作者的单一文化:为什么你的基准测试会变成一张自画像

评估套件并不是对你模型的测量——它是编写者的一张静态画像。在绿色的 CI 变成一个自我陶醉的谎言之前,请审计、轮换并消除基准测试中的单一文化。

evals
llmops
ai-engineering
testing
+1
·tian

你的评估准则是真正的产品规格书 —— 且没有产品经理签过字

你的工程师为了让 LLM-as-judge 跑通而编写的包含 47 条标准的评估准则,已经悄然成为了你的产品规格书。每一个权重、每一个评分边界、每一个缺失的标准,都是产品经理从未正式做出的产品决策。

insider
ai-engineering
evaluation
product-management
+2
·tian

发现的能力:当用户上线了你团队从未规划的功能

每一个足够强大的模型都会暴露出你团队从未规划过的行为。用户发现了它们,并在其基础上构建了工作流,然后将下一次模型升级视为一种回归。这里有一种产品准则,能将这些“发现的能力”转化为由你真正掌控的决策。

insider
ai
product-management
observability
+2
显示第 13–24 篇,共 45 篇