跳转到主要内容

175 含有标签「rag」

Posts tagged "rag" on TianPan.co.

查看所有标签

·tian

向量索引存在一个没人定义的陈旧度 SLO

每晚进行的重新索引任务是一个没人写下来的新鲜度承诺。本文介绍如何将向量索引延迟转化为可衡量的 SLO,向智能体和用户展示数据账龄,并根据衰减率而非习惯进行重新索引。

insider
rag
ai-agents
reliability
+2
·tian

针对幻影库存的 RAG:当你的语料库描述产品已删除的功能时

一个 RAG 系统检索到了关于你四个月前已删除功能的文档,并自信地引导客户点击一个根本不存在的按钮。评估指标依然显示绿色。本文将探讨为什么检索和归因指标会错过这类失败,以及为了解决这个问题,组织层面需要做出哪些改变。

rag
ai-engineering
evals
retrieval
·tian

检索引用税:为什么合规性会增加 30% 的 RAG Token 账单

在 RAG 系统中添加引用看起来只是改一行系统提示词。但在受监管的租户中,它会悄无声息地让推理成本增加 25%–40%。本文将探讨为什么这种“税收”是结构性的,以及哪些架构层面的调整可以帮你挽回大部分成本。

insider
rag
ai-engineering
compliance
+2
·tian

嵌入模型迁移黑洞:向量模型升级如何悄然重写你的业务规则

嵌入模型升级表面上被宣传为基础设施替换,实则是一场重新校准事件。本文将深入探讨你需要重建的阈值、聚类和金标数据并行系统,以及一套能够经受生产环境考验的迁移方案。

embeddings
rag
vector-search
ai-engineering
+1
·tian

LLM 提示词中 “现在” 的五种定义

每个 LLM 提示词中隐藏的五层隐性时间 —— 以及为什么当请求被重放、批处理或针对固定快照进行评估时,这些层级会产生无声的冲突。

llm
prompt-engineering
rag
observability
·tian

RAG 中的新鲜度与相关度权衡:为什么你无法在查询时同时优化两者

纯语义检索会忽略时间,而基于新鲜度权重的检索则更看重活跃度而非正确性。本文将深入探讨针对每个查询的时间敏感度分类器、针对每个文档的波动性评分,以及如何通过双轴评分让 RAG 在处理稳定型和时变型问题时都能保持正确。

rag
retrieval
ai-engineering
llm
+1
·tian

检索级联失效:文档删除如何毒害你的 RAG 流水线

当源文档消失时,它们的嵌入仍滞留在向量索引中,并持续返回貌似正确的错误答案。这是一份关于墓碑机制、级联失效以及检索时新鲜度检查的实战指南。

rag
vector-database
ai-engineering
llm
+1
·tian

每个开放 RAG 系统自带的攻击向量

当用户可以向你的知识库贡献内容时,他们并不是唯一的写入者。在 260 万个条目的语料库中,仅需 5 份恶意文档即可实现 97% 的攻击成功率 —— 且流水线不会显示任何错误。

rag
security
llm
ai-engineering
·tian

80% 陷阱:聚合 RAG 指标如何掩盖系统性长尾失效

报告 80% 检索准确率的 RAG 系统往往掩盖了长尾查询中的系统性失效。本文将探讨如何审计覆盖范围缺口,并在不降低头部性能的情况下进行修复。

insider
rag
retrieval
evaluation
+1
·tian

代码专用 RAG:为什么通用检索在代码库中会失败

基于 Token 的分块在检索器看到代码之前就破坏了其结构特性。AST 感知分块、调用图遍历以及测试文件协同定位才是真正适用于代码库检索的模式。

insider
rag
code-search
embeddings
+1
·tian

跨用户一致性问题:当你的 AI 对同一问题给出不同答案时

当同事问了同一个问题却得到不同的答案,企业 AI 工具会悄悄侵蚀信任。本文解释了为何 temperature=0 无法解决问题,以及真正有效的工程模式。

insider
llm
enterprise-ai
reliability
+2
·tian

RAG 中的领域专家瓶颈:为什么知识策展会导致生产环境 AI 崩溃

构建一个 RAG 管道只需几天。但在第一年里,维护支撑它的知识库才是让团队崩溃的原因。领域专家策展是生产环境 RAG 中真正的“最后一公里”难题。

insider
rag
ai-engineering
knowledge-management
+1
显示第 37–48 篇,共 175 篇