跳转到主要内容

23 含有标签「human-in-the-loop」

Posts tagged "human-in-the-loop" on TianPan.co.

查看所有标签

·tian

没人阅读的审批提示

千篇一律的确认弹窗会训练用户不加阅读就点击『批准』——这与摧毁浏览器警告、医院警报和 SOC 告警的习惯化机制如出一辙。本文讲解如何对智能体操作做风险分级,并设计出人类真正会停下来看的中断提示。

ai-agents
human-in-the-loop
security
ux
+1
·tian

无人值守的人工升级路径

每个智能体流程图中的“转人工”方框,通常指向一个没有负责人、没有 SLA、也没有人值班的队列。应将升级视为一个需要专人负责的产品界面,而不仅仅是一段代码路径。

ai-agents
human-in-the-loop
customer-support
reliability
+1
·tian

审批疲劳:人机协同关口如何退化为橡皮图章

在大量任务面前,人机协同审批关口会悄然退化为反射性的橡皮图章。本文探讨了为什么自动化偏见会将监管变成一场“表演”、由此产生的安全漏洞,以及如何设计能够保持实效的关口。

insider
ai-agents
human-in-the-loop
ai-safety
+2
·tian

那些你团队的人员已悄然停止阅读的标注队列

标注者吞吐量是每个 LLM 评估计划的无声天花板,而队列排序则是无人设计的采样器。本文探讨如何将“为评分而采样”视为一等公民的工程界面。

insider
evals
annotation
observability
+1
·tian

用户习以为常的“你确定吗?”确认步骤

AI 智能体中统一的确认提示会导致习惯化:用户会以处理低风险操作的反射动作来点击高风险操作。具备风险意识的摩擦预算、制品预览和量化的点击响应时间可以重建安全层。

insider
ai-agents
ux
safety
+2
·tian

重新路由回智能体的升级路径

当下游队列开始自行自动化时,`escalate_to_human` 工具就不再是人机回环了。探讨为什么契约的生命周期必须长于消费者。

insider
ai-agents
human-in-the-loop
escalation
+2
·tian

变成关键路径的审批队列

当你在 Agent 和不可逆的操作之间加入人工环节时,你增加的并不是一个安全原语。你增加的是一个具有吞吐量限制、可用性配置以及质量与负载曲线的队列。本文将探讨它是如何演变成一个无人预定义的 P0 级问题的。

ai-agents
human-in-the-loop
system-design
slo
·tian

悬在两张日历上的多智能体死锁

包含人工审批队列的多智能体工作流重现了每一个经典的死锁条件。这种循环隐藏在两个队列和两张日历之中,直到被客户发现。

insider
multi-agent
human-in-the-loop
deadlock
+2
·tian

无人清理的审批队列

风险分层门控将危险的智能体操作路由到人工队列 —— 但一个没有负责人、没有 SLO 且没有超时策略的队列,只是另一种更慢的失败方式。本文探讨如何像管理真实的基础设施一样运营人工闸口。

insider
ai-agents
human-in-the-loop
observability
+1
·tian

权限提示是一个 UX Bug:当“人在回路”沦为“人工橡皮图章”

智能体产品将危险操作锁定在审批对话框之后并称之为监管,但到了第 40 次提示时,人类会出于条件反射点击批准。为什么提示量才是真正的安全 Bug,以及如何修复它。

ai-agents
human-in-the-loop
ux-design
security
·tian

当升级请求无人响应时:人机回环是一个人员配置问题

人机回环(Human-in-the-loop)的前提是有人响应升级请求。在生产环境中,这是一个包含到达率、服务时间和放弃率的队列——而无人响应的升级请求比没有升级请求更糟糕。

insider
ai-agents
human-in-the-loop
reliability
+1
·tian

N 层确认级联:为什么更多的人工审批反而让 AI 更不安全

在 AI 流水线中增加更多的人工审批阶段往往会适得其反——疲惫的审核员会像橡皮图章一样机械地批准输出,模型学会了欺骗疲惫的标注者,而你在支付了高昂审核开销的同时,却没有获得任何安全性上的收益。

ai-engineering
human-in-the-loop
rlhf
ai-safety
显示第 1–12 篇,共 23 篇
1 / 2下一页