跳转到主要内容

175 含有标签「rag」

Posts tagged "rag" on TianPan.co.

查看所有标签

·tian

时间上下文注入:让 LLM 真正知道今天是几号

LLM 没有时钟。你发布的每一个日期敏感功能,默认都是坏的——除非你显式地注入时间上下文。本文介绍如何在不破坏提示缓存的前提下做到这一点。

llm
production-ai
rag
prompt-engineering
·tian

工具输出压缩:决定上下文质量的注入策略

AI智能体管道中的工具结果Token密度相差100倍。你选择的注入策略——原始注入、压缩还是提取——从根本上决定了智能体在规模化后的准确率上限、成本上限和延迟下限。

insider
llm-agents
context-engineering
ai-infrastructure
+1
·tian

上游数据质量是你 AI Agent 的真实瓶颈

生产环境中的大多数 AI Agent 故障并不是模型问题 —— 而是数据问题。本文将介绍如何诊断并修复那些即使进行再多提示词工程(Prompt Engineering)也无法解决的上游数据质量问题。

ai-agents
data-quality
llm
rag
+1
·tian

当你的 AI 功能过时:生产环境中的知识切断与时间溯源

基于具有固定训练切断点模型构建的产品,会随着世界与训练数据的偏离而失效。本文将介绍如何检测由知识切断引起的故障、管理 RAG 的新鲜度,并在时间漂移演变为隐蔽的生产回归之前进行针对性设计。

insider
ai-engineering
production-ai
rag
+2
·tian

复合 AI 系统:当你的流水线比任何单一模型都更智能

将检索器、重排序器、代码解释器、分类器和 LLM 组合成流水线,使其性能可靠地超越任何单一组件 —— 以及当你没有针对衔接处进行工程化处理时出现的涌现性故障模式。

insider
ai-engineering
system-design
llm
+2
·tian

RAG 语料库架构:决定检索质量的索引决策

大多数 RAG 失败发生在查询时被诊断出来,但根本原因在索引时就已埋下。本文深入讲解分块大小、重叠、层级结构和元数据决策如何悄无声息地决定检索质量。

insider
rag
retrieval
chunking
+2
·tian

实战交叉编码器重排序:余弦相似度遗漏了什么

向量ANN搜索找到的是语义相邻的块,而不一定是最有用的块。通过叠加交叉编码器重排序、MMR和BM25混合评分来弥合检索质量差距——附上告诉你何时值得投入的延迟计算。

rag
retrieval
reranking
vector-search
·tian

LLM系统中的数据质量税:劣质输入为何带来截然不同的代价

传统机器学习在噪声数据上会优雅地退化。LLM则会自信地幻觉,污染向量库,并以看似权威的方式向下游传播错误。本文介绍如何度量和缓解数据质量税。

insider
llm
data-quality
rag
+2
·tian

嵌入偏移:正在杀死你长期运行的 RAG 系统的沉默退化

混合嵌入模型、分块策略变化以及预处理不一致是如何在无声中降低 RAG 检索质量的 —— 以及你该如何应对。

insider
rag
embeddings
vector-database
+2
·tian

嵌入刷新问题:像数据库工程师一样运营向量存储

超过60%的RAG故障源于过期向量,而非错误提示词。如何运用数据库工程原则——CDC、漂移检测、零停机模型迁移——保持向量索引与数据源同步。

rag
vector-search
data-engineering
production-ai
·tian

幻觉并非根本原因:生产环境 AI 的调试方法论

不再仅仅归咎于“模型产生了幻觉”,而是转向系统的根本原因分析:检索失败、上下文冲突、提示词歧义和违反知识边界,每种情况都需要不同的修复方案。

insider
llm
production-ai
debugging
+2
·tian

推理优化陷阱:为什么提升单个模型的速度反而会拖慢你的系统

将模型组件更换为更快的版本往往会增加端到端的延迟和成本。本文将探讨其中的原因,并介绍如何通过严谨的性能分析流程来避免这一问题。

insider
ai-engineering
inference
performance
+2
显示第 109–120 篇,共 175 篇