跳转到主要内容

23 含有标签「human-in-the-loop」

Posts tagged "human-in-the-loop" on TianPan.co.

查看所有标签

·tian

智能体权限提示存在习惯化曲线,而你的安全叙事就建立在其斜率之上

权限提示是一种具有可衡量半衰期的安全控制手段。你应该跟踪每个用户的审批率,根据爆炸半径对摩擦力进行分层,并停止让 100% 的点击率作为你安全叙事的唯一支撑。

insider
ai-agents
security
ux
+2
·tian

你的审核队列是自主权承诺消亡之地

人机协同 (Human-in-the-loop) AI 正在悄无声息地失效:审核队列不断膨胀,延迟缓慢攀升,安全叙事正逐一崩塌。这是一份针对 AI 功能的 SLO、容量陷阱和分层审核的实战指南。

ai-engineering
human-in-the-loop
slo
safety
·tian

定义真正有效的人机交接升级标准

大多数AI团队将升级机制视为事后补救。本文介绍如何定义结构化升级规范、选择正确的置信度阈值,并构建随时间改进的反馈循环。

ai-engineering
human-in-the-loop
reliability
agent-architecture
·tian

人类放在哪里:AI 审批关卡的放置理论

最常见的 HITL 错误不是跳过人工审核——而是将其放置在错误的位置。本文提供了一个框架,用于按风险对智能体动作进行分类,并在恰好能防止不可逆损害的位置插入审批关卡。

insider
ai-engineering
agents
human-in-the-loop
+2
·tian

温和交接模式:设计智能体与人类之间的流畅控制权转移

大多数智能体升级流程都是冷转接——在边界处丢弃所有先前上下文。温和交接模式将智能体与人类的控制权转移视为一个状态打包问题——结构化载荷、混合主动控制分配,以及真正有效的恢复协议。

agent-ux
human-in-the-loop
agent-architecture
reliability
·tian

HITL 橡皮图章问题:为什么"人在回路"往往两者皆非

大多数人在回路的实现并没有产生监督效果——它们只是产生了文书工作。以下是审查者停止审查的原因,以及在规模化场景下保持HITL真实有效的设计模式。

insider
ai-safety
production-ai
human-in-the-loop
+2
·tian

温备问题:为何你的 AI 覆盖按钮不是安全网

随着 AI 代理吸收了原本由人类处理的任务,名义上负责的人类逐渐失去了在出错时接管的能力。以下是如何设计真正有效的升级路径。

insider
ai-agents
reliability
human-in-the-loop
+2
·tian

自主性旋钮:安全交付 AI 功能的五个层级

一个将 AI 功能从建议阶段逐步提升到完全自主的五级框架,包含每次转换的具体指标、回调的前导指标,以及将决策风险映射到监督级别的有界自主性模式。

ai-autonomy
human-in-the-loop
ai-engineering
production-ai
+1
·tian

升级协议:构建不丢失状态的智能体到人工接管流程

大多数智能体到人工的升级流程之所以失败,是因为团队将其视为错误状态,而非设计的流程。本文将深入分析信号栈、状态序列化格式、监管界面模式,以及保持任务连续性的返回路径。

insider
ai-agents
human-in-the-loop
production
+1
·tian

为自主 AI 智能体设计审批门禁

在关键时刻暂停 AI 智能体执行的工程模式 —— 涵盖动作风险分类、中断-检查点-恢复、异步审批工作流,以及防止静默漂移的断路器。

ai-agents
human-in-the-loop
agentic-ai
production
+1
·tian

生产环境中的 AI Agent 自主性度量:数据实际揭示了什么

大规模生产数据揭示了 AI Agent 自主性的反直觉规律:经验丰富的用户批准更多操作同时也中断更多操作,Agent 主动发起监督请求的频率是人类的两倍,而实际不可逆操作仅占 0.8%。

ai-agents
production
observability
human-in-the-loop
+1
显示第 13–23 篇,共 23 篇
上一页2 / 2