跳转到主要内容

45 含有标签「governance」

Posts tagged "governance" on TianPan.co.

查看所有标签

·tian

内部 LLM 网关是新一代 Service Mesh

当团队达到 50 名工程师规模时,每个团队都会拙劣地重造同一个 LLM 网关。本文探讨为什么这种模式不断出现,哪些功能应该集中化、哪些应该留在边缘,以及如何解决内部的博弈冲突。

insider
llm-gateway
platform-engineering
ai-infrastructure
+2
·tian

Prompt-Eligibility:数据分类中缺失的那一列

大多数数据分类方案从未将提示层(Prompt Layer)建模为厂商出口通道。增加一个 Prompt-Eligibility 层级——以及填充该层级的模板审计——可以填补你的 DLP 方案所默认忽略的合规漏洞。

insider
privacy
security
llm
+2
·tian

影子 MCP:你的安全团队从未听说过的工具服务器已经在工程师的笔记本电脑上运行了

MCP 使得将开发者的笔记本电脑连接到准生产系统变得极其廉价。其产物是一个使用工程师现有凭据的环回套接字(loopback socket)——这对采购、CASB 和 SSO 日志来说是不可见的。在发生第一次数据泄露披露之前,必须建立发现和治理规程。

insider
ai-agents
security
mcp
+2
·tian

共享提示词的“夺旗日”:当一次修改引发三十个团队的性能回归

将安全前导语(safety preamble)集中化管理看起来像是典型的 DRY 原则胜利,直到第一次修改发布,导致三十个下游团队的评估指标暴跌。本文将探讨为什么共享提示词的行为类似于分布式系统,以及如何构建能够经受住“夺旗日”考验的治理框架。

insider
llmops
platform-engineering
prompt-management
+1
·tian

Token 预算是新一代的内部 IAM

当你的 AI 账单跨过七位数时,Token 配额就不再只是一个财务数字,而是开始演变为一种授权边界。为什么配额分配需要 IAM 级别的纪律,而不是简单的仪表板滑块。

llmops
finops
governance
ai-platform
·tian

难撤销操作的工具分类学:每个风险类别设置一个审批关卡

二元化的工具审批在负载下会失效:如果一个简单的确认对话框既用于保存草稿又用于对外支付,必然会诱导用户养成不假思索点击确认的习惯。一套六级风险分类法可以解决这种混淆问题。

ai-agents
security
tool-use
authorization
+1
·tian

可申诉性差距:如何工程化设计用户真正可申诉的 AI 决策

生产环境中的 AI 智能体往往会在不经意间将退款拒绝、内容删除和验证驳回变成最终定论。在监管机构或愤怒的用户逼你动手之前,抢先构建持久记录、申诉端点以及真正的二次复审流水线。

insider
ai-agents
governance
compliance
+2
·tian

推理预算委员会:Token 支出突破七位数时的治理之道

探讨工程团队如何在 Token 支出达到七位数门槛时进行治理:包括容量池、基于结果的费用分摊以及负责分配这些资源的委员会。

insider
inference
finops
governance
+2
·tian

你在无意中为 Prompt 构建了一个功能开关系统 —— 但却缺少治理

Prompt 配置仓库在运行时表现得像功能开关服务,但缺乏曝光追踪、审计日志、回滚遥测和针对单个用户的灰度控制。本文将探讨这一治理缺口以及如何填补它。

llmops
prompt-engineering
feature-flags
governance
+1
·tian

智能体在凌晨 3 点呼叫我:触达人类工具的爆炸半径策略

授予智能体 PagerDuty 访问权限是一项会影响产品团队的基础设施决策。这是一个针对触达人类工具的控制平面 —— 包含速率限制、演练(dry-run)、退出机制(off-ramps)—— 且这些是 Prompt 无法强制执行的。

insider
ai-agents
mcp
on-call
+2
·tian

组织抗体:为什么AI项目在试点之后走向消亡

70-90%的AI项目始终无法走出概念验证阶段。技术本身没有问题——问题在于组织。本文介绍工程师和技术领导者如何应对那些在试点成功后扼杀AI项目的阻力模式。

insider
ai
engineering
leadership
+1
·tian

董事会级别的 AI 治理:只有高管才能做的五个决策

大多数 AI 治理文章面向 MLOps 团队。但有五项战略决策只能由董事会做出——而搞错的监管风险正在快速增长。

ai
engineering-leadership
governance
risk-management
显示第 25–36 篇,共 45 篇