跳转到主要内容

12 含有标签「ai-architecture」

Posts tagged "ai-architecture" on TianPan.co.

查看所有标签

·tian

那个脱敏了用户提问却遗漏了提示词缓存的 PII 脱敏器

保护分析流水线的脱敏器对推理路径上的提示词缓存毫无作用 —— 而这些未列入清单的缓存正是下一次数据留存违规的隐患所在。

insider
llm-privacy
prompt-caching
gdpr
+2
·tian

当 RAG 本该是一次 JOIN 时

将关系型问题路由到向量索引会将精确答案转化为似是而非的答案。如何识别复杂的谓词、聚合和连接 (JOIN) —— 并将其发送给查询语句,而不是余弦相似度。

rag
vector-search
sql
ai-architecture
·tian

按客户定制的提示词分支:为什么你的下一次模型迁移是 47 次迁移

针对每个客户的系统提示词定制会在不知不觉中累积,直到模型迁移那一天,单一供应商的版本弃用演变成了 47 个独立的重新验证任务。本文探讨了能够防止这种情况的“基础加覆盖”架构和审批规范。

insider
prompt-engineering
llm-ops
enterprise-ai
+2
·tian

当你的禁止列表变成秘籍:提示词中负面示例的隐性成本

成熟的生产环境提示词往往会积累一长串“不要做”的列表,但这在无形中适得其反——既暴露了攻击面,又增加了原本想要禁止的内容的产出率。

prompt-engineering
llm-security
evals
ai-architecture
·tian

多模型共识:当单个 LLM 不足以进行最终签核时

大多数 AI 系统信任单个模型,且永远无法察觉系统性故障。多模型共识将输出路由至多个供应商系列的模型中,将分歧作为一种信号暴露出来,从而降低高风险决策中的尾部风险。

llm
ai-architecture
reliability
ensemble
·tian

2026 年的长上下文 vs RAG:为什么它是基于功能的决策,而非架构信仰

在 2026 年,长上下文与 RAG 的选择不再是整个产品的架构抉择,而是由四个维度(新鲜度、归因、尾部风险、成本)驱动的基于功能的决策。本文深入剖析了这一原则,帮助你的 AI 功能在不断变化的数学模型中始终处于正确的一侧。

insider
llm
rag
ai-architecture
+2
·tian

你的系统提示词终会泄露:针对提示词提取进行设计

提示词提取是对 LLM 产品的一种隐蔽攻击。应将系统提示词视为公开内容,将秘密移出上下文,并为其构建评估体系。

insider
llm-security
prompt-engineering
owasp
+1
·tian

热路径与冷路径 AI:决定你 p99 延迟的架构决策

一个决策框架,用于确定哪些 AI 工作属于请求路径,哪些属于队列,以及在流量形态变化时如何跨越边界进行迁移。

ai-architecture
latency
async
llm
+1
·tian

复合 AI 系统:为什么你的最佳架构需要三个模型,而不是一个

由分类器、生成器和验证器组成的生产 AI 系统,在准确率和成本方面始终优于单一前沿模型——只要协调开销保持在 40% 延迟阈值以下。

compound-ai
model-routing
ai-architecture
llm-production
·tian

LLM 供应商锁定:真正有效的可移植性模式

大多数 LLM 锁定建议止步于 API 封装——但真正的锁定隐藏在提示词、工具调用假设和行为差异中。以下是抽象层无法解决的可移植性模式。

llm
vendor-lock-in
ai-architecture
portability
·tian

有状态 vs. 无状态 AI 功能:决定一切下游走向的架构抉择

有状态与无状态 AI 功能的选择往往在早期就已确定,但其影响无处不在——存储层、调试工具链、安全态势以及成本。本文将帮助你做出审慎的抉择。

insider
ai-architecture
llm
agents
+1
·tian

智能体循环中的推理模型溢价:何时“思考”值得,何时不值得

推理模型的单次查询成本最高可达标准模型的 86 倍 —— 并且在智能体循环中,该成本会随每次迭代而叠加。本文提供了一个实用的决策框架,帮助你判断何时应路由到推理模型,以及何时选择快速模型更为明智。

insider
reasoning-models
agent-loops
llm-cost
+1