跳转到主要内容

209 含有标签「agents」

Posts tagged "agents" on TianPan.co.

查看所有标签

·tian

隐藏草稿板问题:为什么仅凭输出监控无法保障生产级 AI Agent 的安全

前沿模型在可见的推理中仅有 25–41% 的时间会承认敏感输入的影响。本文将探讨为什么输出层监控无法保障生产级 Agent 的安全,以及如何构建能够追踪隐藏计算的监管机制。

insider
ai-safety
llm
agents
+2
·tian

实时智能体 UI 背后的流式传输基础设施

智能体流式传输在生产环境中的四种失败方式 —— 以及关于 SSE 传输、背压、优雅取消和浏览器刷新重连的服务端架构决策,这些决策才是让实时智能体 UI 真正可靠的关键。

ai-engineering
streaming
agents
infrastructure
+1
·tian

工具选择难题:当智能体拥有数十个工具时,如何选择调用哪一个

为什么当工具库扩展到十几个以上时,LLM 智能体会因工具选择而失败 —— 令牌爆炸、检索失败模式,以及在拥有 50 多个工具时仍能保持选择准确性的分层路由架构。

agents
tool-use
retrieval
llm
+1
·tian

主体层级问题:多智能体系统中的授权

当智能体 A 创建智能体 B 时,应该应用谁的权限?深入探讨信任如何通过委派链传播,为什么混淆代理攻击在智能体规模下具有毁灭性,以及在生产环境的多智能体部署中防止权限提升的授权模式。

multi-agent
security
authorization
agents
·tian

Agentic RAG:当你的检索流水线需要一颗大脑时

大多数 RAG 系统在生产环境中失败并不是因为模型不好,而是因为工程师忽略了控制循环。这是一份 Agentic RAG 架构指南 —— 涵盖路由、评分器、幻觉检查器,以及那些会导致首次部署失败的典型模式。

rag
agents
retrieval
architecture
+1
·tian

Agentic 工程模式:While 循环只是最简单的部分

每一个生产级 Agent 都运行着相同的平凡循环。真正重要的模式是围绕它构建的——提示词链式调用、路由、反思,以及防止每周产生 47,000 美元账单的上下文管理规范。

agents
engineering
production
patterns
·tian

为什么你的智能体应该编写代码,而不是 JSON

代码操作智能体 (Code-action agents) 让大语言模型 (LLM) 能够生成并运行 Python 而非 JSON —— 任务成功率提高 20%,LLM 往返次数减少 30%。本文将介绍它们的工作原理、局限性,以及如何在生产环境中安全地运行它们。

agents
llm
python
code-execution
+1
·tian

生产环境中的 LLM 可观测性:追踪不可预测的行为

标准监控仪表盘往往会忽略 LLM 应用中大部分的问题。这是一份关于分布式追踪、成本归因、延迟分析以及在大规模场景下调试非确定性 Agent 行为的实用指南。

llm
observability
tracing
agents
+1
·tian

生产环境中的工具调用:循环、陷阱与实战方案

一份关于在生产环境 LLM 系统中进行工具调用的实用指南 —— 涵盖代理循环、并行执行格式规则、编写有效的工具描述、使用 is_error 进行错误恢复,以及工具何时会增加延迟而无实际价值。

llm
agents
tool-use
production
+1
·tian

AI Agent 架构:生产环境中真正有效的方案

88% 的 AI Agent 项目从未进入生产阶段。失败的原因几乎从来不是模型本身,而是周边的架构。本文深入剖析了五层 Agent 技术栈、四层记忆模型、编排与路由的权衡,以及导致 94% 生产环境失败的七种模式。

ai-engineering
agents
architecture
production
+1
·tian

生产环境中的 LLM 可观测性:工程师容易忽略的四个隐性故障

标准监控在生产环境 LLM 系统中容易遗漏的四种故障模式 —— 以及如何通过分布式追踪、持续评估和正确的遥测架构,在用户发现之前捕捉到这些问题。

llm
observability
monitoring
production
+1
·tian

生产环境中的工具使用:真正有效的函数调用模式

大多数 LLM 代理失败的原因可追溯到工具 Schema 规范不足,而非模型能力问题。本实践指南涵盖了生产环境函数调用的 Schema 设计、错误处理、并行调用和安全性。

llm
agents
function-calling
production
+1
显示第 193–204 篇,共 209 篇