跳转到主要内容

76 含有标签「ai」

Posts tagged "ai" on TianPan.co.

查看所有标签

·tian

上下文限制是一个 UX 问题:为什么静默截断会侵蚀用户信任

当 LLM 为了给新 Token 腾出空间而静默丢弃早期的上下文时,用户看不到错误提示 —— 他们看到的是一个困惑的 AI。这是一个产品设计上的失败,而非模型本身的失败。

insider
ai
ux
product-design
+2
·tian

AI功能的隐性税:你的推理账单没有告诉你的事

推理仅占生产环境中运行AI功能真实成本的20-30%。以下是核算完整成本栈的方法——从向量数据库和嵌入,到人工审核和提示工程人力成本。

ai
cost
infrastructure
production
·tian

组织级古德哈特定律:当团队开始操控 AI 采用率指标

当 AI 采用率指标成为绩效目标,团队便开始优化指标而非结果。本文探讨这种现象如何发生、为何难以察觉,以及哪些衡量方式真正能经受住组织激励机制的考验。

ai
engineering
metrics
organizational-behavior
·tian

提示词契约测试:多智能体团队如何协同而不互相破坏

多智能体AI系统在生产环境中的失败率高达41%–87%,其中超过三分之一是智能体间的协调故障。提示词契约测试——将消费者驱动契约的思想应用于LLM提示词——正是团队在不互相破坏的前提下持续交付的方法。

ai
agents
multi-agent
testing
+1
·tian

AI 系统设计顾问:它能做对什么、会自信地做错什么,以及如何分辨

AI 在教科书式的架构权衡与模式探索上能给出真正有价值的输入——但当你的真实约束才是关键时,它会给出危险的过度自信建议。

insider
ai
system-design
architecture
+2
·tian

预算倒置陷阱:为什么你最重要的AI功能却在用最便宜的推理模型

AI系统中的成本压力经常将复杂的高价值工作流路由到最便宜的模型——而低价值查询却运行在顶级模型上。本文介绍如何审查并修正这一倒置问题。

ai
llm
inference
cost-optimization
+1
·tian

共同演化陷阱:AI 功能的成功如何正在悄悄破坏其评估体系

当用户适应你的 AI 功能时,他们会改变该功能最初评估时所基于的分布。本文将探讨如何检测用户引发的分布偏移,并构建随时间推移仍能保持真实的评估体系。

ai
evaluation
mlops
distribution-shift
+1
·tian

第一个 AI 功能难题:为什么你首先交付的内容决定了用户接下来的接受度

用户对 AI 的信任建立在第一次失败而非第一次成功之上。你发布 AI 功能的顺序比单个功能的质量更重要 —— 且一旦出错,其恢复难度超乎大多数团队的预料。

ai
product
trust
machine-learning
·tian

为什么你的 AI 听起来不对劲,即使技术上完全正确

技术正确性与交流适当性是两个正交的失效模式。语域不匹配是一个隐性的用户流失驱动因素,它藏在模糊的用户反馈背后,几乎不会出现在你的评估套件中。

ai
llm
prompt-engineering
evaluation
·tian

组织架构问题:为什么 AI 功能会死在团队之间

42% 的 AI 项目失败并非因为模型不好用,而是因为没有一个团队从头到尾负责这个功能。本文深入分析了扼杀 AI 功能的问责空白,以及真正有效的所有权模型。

ai
engineering
mlops
teams
+1
·tian

人设锁定问题:长期 AI 会话如何将用户困在自己的模式中

随时间适应用户行为的 AI 系统会形成自我强化的循环,早期偏好逐渐固化为用户无法逃脱的默认行为。本文探讨人设锁定在实践中的表现,以及如何在设计层面加以规避。

ai
personalization
ux
product-design
+1
·tian

影子 AI 治理难题:为什么禁止个人 AI 账号会让安全性变差

阻止员工使用个人 ChatGPT 或 Claude 账号并不能停止 AI 的使用 —— 反而会让其变得不可见。本文将探讨如何调研影子 AI、建立合规渠道,并避免治理演戏。

insider
ai
security
governance
+1
显示第 25–36 篇,共 76 篇