博客
来自AI智能体经济的洞见、分析与更新。 按标签浏览.
使用 LLM 构建的一年：该领域的实战经验总结
来自将 LLM 驱动的系统推向生产环境的团队的宝贵经验：为什么模型是你技术栈中最不持久的部分，如何构建真正有效的评估基础设施，以及 RAG 何时优于微调。
超越 RAG：混合搜索、智能体检索以及真正重要的数据库设计决策
当用户查询精确标识符、错误代码和命名实体时，纯向量搜索在生产环境中会失败。本指南将介绍混合搜索架构、智能体检索模式以及随之而来的数据库设计决策。
AI Agent 的工作原理：架构、规划和失败模式
深入解析 AI Agent 的工作原理——涵盖工具使用、规划模式、反思循环、多 Agent 协作以及实际生产中规划失败的五种方式。
将 LLM 系统落地生产的血泪经验
将 LLM 系统落地生产的实战经验：为什么评估要先行，为什么混合搜索优于纯向量检索，以及为什么模型本身不是护城河。
构建生产级 LLM 应用：实际会遇到什么问题
一份关于将 LLM 应用从演示阶段推向生产时会遇到的实际问题指南，涵盖推理成本、延迟权衡、提示工程 vs RAG vs 微调决策、多步管道故障、评估框架和可观测性。
LLM 应用的数据飞轮：在生产与改进之间闭环
生产数据飞轮将用户交互转化为模型改进——但不到 1% 的交互产生明确信号，而天真地仅用这 1% 的数据进行训练会悄悄毒害你的系统。本文将介绍决定你的飞轮是会复合增长还是彻底崩溃的架构、反馈信号和失效模式。
为所有人辩护 AI 评估
大多数声称跳过评估的团队实际上已经在进行评估——只是做得不好。本文将阐述为什么系统性的 AI 评估至关重要，何时可以采用更轻量级的方法，以及如何进行能够揭示真实信号的评估。
LLM 驱动的自主智能体：实现真正自主的架构
大多数声称在生产环境中运行智能体的团队并未真正实现——只有 16% 的部署达到了真正自主的标准。本文将深入解析规划、记忆和工具使用等子系统，它们是区分真正智能体与美化版聊天机器人的关键，并探讨导致生产系统失败的五种常见模式。
构建能在生产环境中真正运行的 LLM 系统的七种模式
深入探讨七种工程模式——评估、RAG、微调、缓存、护栏、UX 设计和反馈循环——这些模式能将可用的 LLM 原型与可靠的生产系统区分开来。
构建生成式 AI 应用的常见陷阱
95% 的生成式 AI 试点项目未能产生可衡量的商业影响。本文总结了导致 AI 项目失败的八个工程和产品陷阱——从问题选择到评估——并提供了实际案例。
AI 智能体评估就绪清单
一份实用的、循序渐进的清单，旨在帮助你构建真正能发现故障的 AI 智能体评估，内容涵盖追踪审查、数据集设计、评估器模式，以及如何将评估与生产环境连接起来。
生产环境中的自愈智能体：如何构建自我修复系统
生产环境中的 AI 智能体悄无声息地失效 — 错误的答案、停滞的任务、没有堆栈跟踪。采用分层方法进行检测、分类和自动化恢复，可以在用户察觉之前捕获大多数故障。