跳转到主要内容

834 含有标签「ai-engineering」

Posts tagged "ai-engineering" on TianPan.co.

查看所有标签

·tian

多用户共享智能体状态:你真正需要的并发原语

大多数智能体设计假设每个会话只有一个用户。共享工作区需要分布式系统原语,以防止并发用户发出相互矛盾的指令时发生无声数据损坏。

ai-engineering
agents
distributed-systems
concurrency
·tian

多模态流水线在生产环境中的挑战:当你超越文本时会发生什么

在生产环境中引入多模态意味着面对一类新的故障:静默图像拒绝、PDF表格错位、音频延迟预算,以及文本评估从未发现的跨模态幻觉。

multimodal
llm
production
ai-engineering
·tian

共享 LLM 基础设施中的“吵闹邻居”问题:AI 功能的租户模型

当某个功能的批处理作业耗尽了共享的 API 配额时,付费用户会看到 429 错误。本文将介绍共享 LLM 基础设施的检测信号与隔离模式。

insider
llm
infrastructure
ai-engineering
+2
·tian

提示层中的个人信息:大多数团队忽视的隐私工程缺口

个人身份信息如何在不受控制的情况下流入LLM推理调用,以及脱敏、令牌化和日志记录架构如何弥合合规缺口。

insider
privacy
security
llm
+1
·tian

主动型 Agent:后台 AI 的事件驱动与定时自动化

绝大多数 Agent 设计文章都假设由人类触发执行。而生产环境中的 AI 越来越多地在后台运行——基于定时调度、变更事件和系统状态转换。这在架构层面改变了什么?

insider
ai-engineering
agents
event-driven
+1
·tian

提示词差异审查作为一种规范:审查者真正需要问的问题

传统代码审查的直觉无法直接应用于提示词编辑。这里是检查清单、工具链,以及将提示词PR转化为行为契约的审查者与作者对话指南。

prompt-engineering
llm
code-review
ai-engineering
·tian

推理模型的提示词用法大不同:为何你现有的模式在 o1、o3 和 Claude 扩展思考上会失效

o1、o3 和带扩展思考的 Claude 等推理模型处理提示词的方式,与指令跟随模型有着本质区别。那些在 GPT-4 上有效的模式,反而会主动损害思考模型的性能——本文提供一套适配框架。

prompt-engineering
reasoning-models
llm
ai-engineering
·tian

RAG 特有的提示词注入:对抗性文档如何劫持你的检索管道

在数百万文档的语料库中,仅需五份精心构造的文档,就能在 90% 的情况下操控 RAG 系统的响应——而你的输入验证层对此毫无察觉。本文解析为何 RAG 的威胁模型从根本上有别于传统注入,以及真正有效的防御措施。

security
rag
prompt-injection
ai-engineering
+1
·tian

你的 RAG 系统缺少的查询改写层

大多数 RAG 调优工作集中在分块策略和嵌入模型上。而最高杠杆的干预点其实在流水线更前端:在查询命中向量索引之前对其进行变换。

rag
retrieval
llm
ai-engineering
·tian

设计不拖垮延迟的 AI 安全层

串行安全检查会在响应到达用户之前叠加出数百毫秒的开销。本文介绍如何设计既能维持安全态势、又不破坏用户体验的护栏架构。

insider
guardrails
llm
production
+2
·tian

SQL Agent 为何在生产环境中失败:针对实时关系型数据库的 LLM Grounding

SQL Agent 并非只是带数据库后端的文档 RAG。它们需要精确的模式映射(Schema Mapping)、运行时验证以及严格的权限边界——忽略其中任何一项都可能导致你损坏生产数据或扫描 TB 级的表。

insider
ai-engineering
sql
agents
+1
·tian

数据库规模的有状态对话:每个生产聊天功能都需要的会话存储架构

内存中的对话历史在演示中运行良好,但在规模上会失败。深入解析分层存储模式、压缩策略和数据模型决策,让聊天会话在生产环境中保持可靠。

ai-engineering
chat
session-management
database
+1
显示第 697–708 篇,共 834 篇