跳转到主要内容

209 含有标签「agents」

Posts tagged "agents" on TianPan.co.

查看所有标签

·tian

长时 Agent 会话中的人格漂移:为什么你的 Agent 会忘记自己是谁

经过 8–12 轮对话后,Agent 人格自一致性下降超过 30%。以下是 Transformer 注意力机制导致 Agent 偏离系统提示词的原因,以及三种真正有效的生产级解决模式。

agents
reliability
context-engineering
llm
+1
·tian

并非“全员回复”:智能体出站扇出风险

智能体对“全员回复”没有肌肉记忆。当发送工具的接收方字段无法区分分发列表与个人时,规划器往往会选择动静最大的那扇门。这里有四种将爆炸半径限制在可控范围内的实践。

agents
security
ai-engineering
tools
+1
·tian

下线一个 Planner 已产生依赖的 Agent 工具

从你的 Agent 工具目录中移除一个函数不仅仅是语法上的更改,更是一次行为迁移。这种阶段式下线模式可以防止回退幻觉和隐性回归。

insider
agents
tool-use
deprecation
+2
·tian

技能即模块:当你的智能体堆栈需要导入系统时

智能体运行时正在拙劣地重新发明导入系统 —— 名称解析、版本锁定、依赖图和冲突检测,这些都是隐藏在技能生态系统下尚未解决的问题。

agents
skills
package-management
runtime
+1
·tian

工具 Schema 设计即是你的爆炸半径:当函数定义成为安全边界

在你的 Agent 可以调用它的那一刻起,工具注册表就不再仅仅是文档了。为什么每个参数类型都是一种安全控制,以及如何设计能够抵御提示词注入的 Schema。

ai-engineering
security
llm
agents
+1
·tian

Agent IAM 不等于 Service IAM:为什么当意图在运行时构建时 OAuth 会失效

OAuth 和 IAM 是为具有稳定意图的调用者设计的。Agent 的意图是在运行时根据提示词、检索到的文档和工具输出构建的 —— IAM 层永远看不到决定调用内容的大部分输入。

security
iam
agents
oauth
+1
·tian

Brownout 模式:当你的 LLM 供应商响应迟缓而非宕机时

供应商的可用性是连续的,而非二元的。你的回退链条能处理显而易见的宕机,却往往忽略了那些在数小时内悄悄消磨用户信任的 Brownout 现象(响应迟缓)。

reliability
llm-ops
agents
observability
·tian

澄清预算:你的智能体何时应该询问而非猜测

大多数智能体要么过度询问让用户精疲力竭,要么过度猜测并失去信任。解决方法是建立基于任务的澄清预算,并增加一个模型在结构上无法独自承担的策略层。

agents
ux
evals
llm
·tian

多步 Agent 的延迟预算:为什么 P50 会说谎,而 P99 才是用户的真实感受

多步 Agent 在中位数延迟上看起来很快,但在尾部延迟上却让人感觉很慢。本文将探讨为什么系统组合会惩罚 P50 仪表板,以及如何设计符合用户实际体验的延迟预算。

insider
agents
latency
observability
+1
·tian

工具调用顺序是偏序,而非集合

大多数生产环境中的 Agent 将其工具集视为一个无序的能力包。实际上,它是一个偏序关系,而 Bug 就隐藏在那些无人声明的依赖边界中。

insider
agents
llm
evals
+1
·tian

弃权作为一种路由决策:为什么“我不知道”应该属于路由层,而不是提示词

将“我不知道”放在系统提示词中会让弃权行为变得不可测试、无归属且不可扩展。将其移动到路由层,你将获得 SLO、评估机制以及真实的升级路径。

llm
agents
abstention
routing
+1
·tian

Agent 降级模式规范是你没有撰写的文档

大多数生产环境中的 Agent 都有降级模式规范——它只是散布在零散的 catch 代码块中,从未经过测试,而客户会在下一个糟糕的日子里为你写下它的公开版本。

agents
reliability
slo
eval
显示第 97–108 篇,共 209 篇