跳转到主要内容

博客

来自AI智能体经济的洞见、分析与更新。 按标签浏览.

·tian

首个Token在撒谎:为什么上下文加载——而非推理——才是AI功能延迟的真正瓶颈

AI功能的感知速度在模型生成第一个Token之前就已决定。上下文预热——预加载用户历史、预热嵌入缓存、投机性获取工具Schema——才是真正影响首Token时间的工程纪律。

insider
ai-engineering
latency
context-engineering
+2
·tian

Staging 环境的谎言:为什么预生产阶段对 AI 系统失效了

Staging 环境给了 AI 系统虚假的安全感。本文将探讨为什么它们在架构上误导了团队,并介绍真正有效的生产优先(production-first)架构。

insider
llm
production
testing
+2
·tian

过时的文档,肯定的错误答案:AI 帮助中心里隐藏的失效模式

当 RAG 系统检索到过时的上下文时,幻觉率会飙升 6 倍。如何将文档新鲜度视为一个工程问题——通过 TTL 过滤、时间重排序、过时评分以及在发布后保持 AI 帮助中心准确性的运营模型。

rag
knowledge-base
ai-reliability
documentation
+1
·tian

当 LLM 为自己批改作业:打破 AI 评估中的反馈循环

LLM 生成的评估集创建了一个反馈循环,导致模型偏见被编码为事实标准 (Ground Truth)。以下是打破该循环的污染信号、跨模型验证策略以及人工采样规范。

insider
llm-evaluation
synthetic-data
ai-engineering
+1
·tian

系统提示中的冲突指令:无人负责的隐性故障模式

系统提示通过拉取请求不断增长,积累相互冲突的指令,并以不可预测的行为漂移形式表现出来。本文介绍如何检测矛盾并构建能够经受变更的提示架构。

insider
llm
prompt-engineering
system-design
+1
·tian

工具调用收敛:设计知道何时停止的智能体

在没有停止条件的情况下循环执行工具调用的智能体会白白消耗 token。本文探讨如何从工程角度判断信息何时已经充足。

ai-engineering
agents
llm
production
·tian

双速组织:为什么 AI 团队与产品团队的时钟频率互不兼容

AI 模型实验需要数周,产品发布只需数天,而 Embedding 索引每月更新一次。这种时钟频率的不匹配正是 AI 功能长期处于测试阶段的原因 —— 本文将探讨如何解决这一问题。

insider
ai
mlops
engineering
+1
·tian

向量维度税:嵌入维度如何悄然侵蚀你的预算

大多数团队从模型默认值中选取嵌入维度,而不衡量其成本。本文介绍维度如何影响存储、延迟和质量,以及如何有意识地进行权衡。

embeddings
rag
vector-search
infrastructure
·tian

何时选择 LLM,何时选择简单启发式规则:四因素决策框架

四因素框架——信号质量、人类性能上限、数据可用性和可逆性——帮助工程团队判断 AI 真正创造价值的时机,以及何时简单的规则系统才是正确选择。

insider
machine-learning
llm
ai-strategy
+1
·tian

Agent 作为用户:当机器人成为你的主力用户时,产品分析为何失效

当 AI agent 成为你产品最重要的消费者时,会话漏斗开始说谎,参与度指标发生倒置,NPS 调研一无所获。本文讲解如何为 agent 消费者埋点,以及为什么你现有的分析仪表盘正在主动误导你。

ai-agents
product-analytics
observability
api-design
·tian

智能体组合审计:如何在不损害团队自主性的前提下,将15个独立智能体整合为统一平台

当独立构建的AI智能体数量超出你的治理能力时,你需要的不是更多智能体——而是一次审计。以下是整合操作手册。

insider
ai-agents
engineering-leadership
platform-engineering
+1
·tian

AI 数秒生成代码,团队却花数小时审查——这笔账根本不对

AI 编程工具让代码生成速度提升 55%,但高采用率团队的 PR 审查时间却增加了 91%。AI 编程工具真正的投资回报率取决于你如何处理验证开销——而大多数团队根本没有把这个算进去。

insider
ai-engineering
developer-productivity
code-review
+1
显示第 757–768 篇,共 2312 篇