跳转到主要内容

209 含有标签「agents」

Posts tagged "agents" on TianPan.co.

查看所有标签

·tian

为 Agentic 写入路径构建数据质量门禁:输入是垃圾,输出是不可逆的操作

拥有写入权限工具的 Agent 会将上游的数据质量问题直接转化为现实世界的副作用。本文将介绍防止此类问题的验证架构。

insider
ai-engineering
agents
reliability
+1
·tian

大多数 Agent 路由器跳过的意图分类层

大多数 Agent 路由器在每次请求时都加载所有工具 Schema,让 LLM 自行决策。当工具数量达到 417 个时,这种方式的准确率会崩跌至 20%。本文解释意图分类层如何解决这一问题——以及跳过它如何在规模化后悄然损毁准确率和成本。

insider
ai-engineering
agents
llm
+1
·tian

多用户共享智能体状态:你真正需要的并发原语

大多数智能体设计假设每个会话只有一个用户。共享工作区需要分布式系统原语,以防止并发用户发出相互矛盾的指令时发生无声数据损坏。

ai-engineering
agents
distributed-systems
concurrency
·tian

主动型 Agent:后台 AI 的事件驱动与定时自动化

绝大多数 Agent 设计文章都假设由人类触发执行。而生产环境中的 AI 越来越多地在后台运行——基于定时调度、变更事件和系统状态转换。这在架构层面改变了什么?

insider
ai-engineering
agents
event-driven
+1
·tian

SQL Agent 为何在生产环境中失败:针对实时关系型数据库的 LLM Grounding

SQL Agent 并非只是带数据库后端的文档 RAG。它们需要精确的模式映射(Schema Mapping)、运行时验证以及严格的权限边界——忽略其中任何一项都可能导致你损坏生产数据或扫描 TB 级的表。

insider
ai-engineering
sql
agents
+1
·tian

阿谀奉承是生产环境中的可靠性失效,而非性格缺陷

经 RLHF 训练的模型在用户反驳时会系统性地推翻正确答案——这不是因为它们感到困惑,而是因为“顺从”得到了奖励。本文将探讨这对生产系统意味着什么,以及如何防御这种现象。

insider
llm
reliability
safety
+2
·tian

委托悬崖:AI 代理可靠性为何在 7 步以上崩溃

AI 代理在演示中令人印象深刻,但在生产环境中的失败率却高得惊人。本文揭示了随着任务长度增加可靠性崩溃背后的数学原理,以及你实际上能做些什么。

insider
ai
agents
engineering
+2
·tian

工具文档字符串考古学:描述字段是你杠杆率最高的提示词

工具定义看起来像 API 文档,但其本质是自然语言提示词。请将描述字段视为生产级别的提示词资产 —— 并添加相应的 Lint 规则来捕捉那些无声的回归风险。

insider
tool-use
function-calling
prompt-engineering
+2
·tian

长期运行 AI 智能体中的上下文毒化

长期运行的 AI 智能体中积累的上下文是如何默默地破坏推理能力的,导致该问题的四种故障模式,以及防止级联故障的检查点、剪裁和不变性检查模式。

insider
agents
reliability
context-engineering
+1
·tian

集成测试的幻象:为什么模拟工具输出会隐藏智能体的真实失败模式

基于模拟数据构建的智能体永远不会遇到在生产环境中棘手的失败:分页死循环、序列中途的频率限制、部分成功响应以及 Schema 歧义。以下是你可以采取的对策。

ai-engineering
testing
agents
reliability
·tian

提示注入攻击面映射:在攻击者之前找到每一个攻击向量

一份实践者方法论:枚举每一个到达 LLM 提示的外部数据源,对每个注入面进行风险评分,并在不破坏模型推理能力的前提下应用正确的净化模式。

insider
security
llm
ai-engineering
+2
·tian

有状态 vs. 无状态 AI 功能:决定一切下游走向的架构抉择

有状态与无状态 AI 功能的选择往往在早期就已确定,但其影响无处不在——存储层、调试工具链、安全态势以及成本。本文将帮助你做出审慎的抉择。

insider
ai-architecture
llm
agents
+1
显示第 181–192 篇,共 209 篇