跳转到主要内容

博客

来自AI智能体经济的洞见、分析与更新。 按标签浏览.

·tian

入职缺口:为什么新工程师需要三个月才能上手 AI 技术栈

AI 代码库承载着一种隐藏的领域知识税,使得原本三周的入职期延长到了三个月。解决方法是决策历史,而非架构图。

insider
ai-engineering
team-design
onboarding
+2
·tian

AI 钱包:为什么 Token 预算应放在 UI 中,而非工程仪表盘里

向用户隐藏 AI 成本会导致静默限流和突如其来的降级。将 Token 预算视为真正的产品界面——包括预览、上限和模型选择——能将成本天花板从导致流失的因素转变为盈利杠杆。

ai-engineering
product-design
pricing
ux
·tian

标注员校准差距:当人类评分者悄然失去一致性时

在人类评估项目进行六个月后,评分者间一致性指标实际上是三个不同隐性标准的加权平均值。模型没有发生漂移 —— 而是测量工具发生了漂移。

insider
evals
human-evaluation
llm
+2
·tian

审计追踪的不匹配:当用户、智能体和工具各有各的日志时

智能体技术栈生成的四种日志往往无法对齐。解决方案并非增加更多日志,而是在用户操作边界生成的事务 ID、统一的审计记录,以及根据合规需求(而非子系统)确定的保留周期。

insider
ai-agents
observability
compliance
+1
·tian

绕过词汇表:当用户学会用礼貌的英语进行越狱

生产环境中的 AI 产品容易被“假设”、“用于教育目的”、“为了写故事”这类三词构架绕过拒绝策略。了解如何检测和防御你的用户从社交平台学到的绕过词汇。

ai-safety
llm-security
jailbreak
refusal-policy
+1
·tian

合规审查员作为评测编写者:为什么法律团队应该为你编写测试用例

合规审查员能发现工程评测系统性遗漏的 LLM 失败模式。将他们从文档审查环节移至回归测试套件中 —— 法律签署将转变为对每次提交时运行的固定测试用例的确认。

insider
ai-engineering
evals
compliance
+2
·tian

上下文膨胀:你无法用 Grep 搜寻的 AI 内存泄漏

长期运行的智能体对话会悄无声息地泄露 Token —— 二次增长的成本和性能下降隐藏在对话历史中。本文介绍如何监控、修剪和压缩上下文。

insider
ai-agents
context-engineering
observability
+1
·tian

对话式 REST:当你的聊天 UI 需要分页、过滤和排序时

聊天是一种极佳的输入方式,但却是一种糟糕的输出方式。一旦你的智能体返回的结果超过三个,正确的做法是渲染 UI,而不是继续说下去。

ai-engineering
ux
agents
generative-ui
+1
·tian

撤回的代价:为什么撤回一项 AI 功能比上线它更难

一旦用户围绕某项 AI 功能构建了工作流,移除它的成本将超过上线它的成本。本文探讨了为什么紧急开关往往被闲置,以及如何在上线之初就设计可逆性。

ai-engineering
product
deprecation
release-engineering
·tian

以单次对话成本为产品契约:当定价驱动架构设计时

AI 功能的定价是架构设计的输入,而非财务后的补救。为了不让工程师在午夜修补单位经济效益的漏洞,PRD 中应该包含哪些内容。

ai-engineering
product
pricing
unit-economics
+1
·tian

跨渠道记忆:当你的智能体遗忘邮件上下文时

多端 AI 智能体在聊天、邮件、短信和语音之间割裂了记忆,导致用户收到自相矛盾的回答。本文探讨统一身份、写穿式存储以及上下文隐私。

insider
ai-agents
memory
architecture
+1
·tian

昼夜延迟:为什么你的 AI 功能在东部时间上午 9 点最慢

前沿模型的延迟遵循由他人流量决定的每日曲线。通过分时段队列、批量路由和负载感知故障转移,可以将这种“幽灵般的”性能退化转变为一个调度问题。

insider
llm-ops
latency
observability
+1
显示第 649–660 篇,共 2312 篇