·tian
权限提示是一个 UX Bug:当“人在回路”沦为“人工橡皮图章”
智能体产品将危险操作锁定在审批对话框之后并称之为监管,但到了第 40 次提示时,人类会出于条件反射点击批准。为什么提示量才是真正的安全 Bug,以及如何修复它。
ai-agents
human-in-the-loop
ux-design
security
·tian
70% 可靠性恐怖谷:AI 功能丧失用户信任的深渊
一个成功率为 70% 的 AI 功能可能比一个失败率为 70% 的功能更糟糕 —— 集中且不可预测的失败比持续的不稳健更快地摧毁用户信任。本文探讨了为什么综合准确率会误导人、为什么用户无法自我校准,以及如何针对“恐怖谷”地带进行设计。
ai-product
trust-calibration
llm-eval
ux-design
+1·tian
环境 AI 架构:设计不会被用户关掉的常驻智能体
大多数环境 AI 功能在上线两周内就会被用户关掉——不是因为模型不好,而是因为打扰阈值设置错误。本文提供一套防止这种情况发生的架构与 UX 框架。
insider
ai-engineering
agent-architecture
ux-design