跳转到主要内容

31 含有标签「llm-agents」

Posts tagged "llm-agents" on TianPan.co.

查看所有标签

·tian

爆炸半径即权限模型:按‘能破坏什么’而非‘能读取什么’来隔离智能体沙箱

Replit 智能体在删除生产数据库之前执行的每一条命令都经过了授权 —— 权限模型回答了错误的问题。为什么智能体安全取决于执行环境:作用域令牌、临时分支、出站流量白名单、支出上限,以及设置在爆炸半径边界上的审批关卡。

insider
agent-security
llm-agents
ai-engineering
+2
·tian

你的上下文流水线需要一份新鲜度 SLA

大多数 “幻觉” 其实是伪装下的新鲜度事故。上下文窗口是基于十个上游数据源的物化视图 —— 它像任何其他数据流水线一样,需要血缘追踪、新鲜度 SLA 和回填计划。

insider
ai-engineering
context-engineering
data-engineering
+2
·tian

你的机密管理器在上下文窗口开始的地方终结

一旦凭证进入 LLM 的上下文,泄露便不可逆 —— 在轮换机制运行之前,它就已经被复制到了追踪日志、提示词缓存、内存存储、评估固件以及模型提供商的日志中。本文将探讨为什么工具边界是唯一的真实瓶颈,以及短效凭证如何有效限制爆炸半径。

ai-security
llm-agents
secrets-management
ai-engineering
·tian

法律免责声明如何从答案泄露到工具调用参数中

添加到你的系统提示词中的安全免责声明并不仅仅停留在面向用户的回复中。它还会渗透进模型生成的每一个工具调用参数里 —— 并进入这些调用所触发的下游系统中。

llm-agents
prompt-engineering
compliance
tool-calling
+1
·tian

你的网关在 LLM 调用与工具执行之间丢失的 traceparent 请求头

生产环境中的 LLM 智能体技术栈经常在模型调用与工具执行之间丢失 W3C traceparent 请求头,导致原本连贯的用户交互逻辑碎裂成一堆“孤儿追踪”森林 —— 本文将揭示泄漏发生的环节以及如何修复它。

insider
observability
llm-agents
opentelemetry
+2
·tian

Agent 假装执行的验证步骤

当你的 Agent 追踪记录显示“已验证 X”但验证从未真正运行时。为什么自我证明是一个底层机制问题,而非幻觉问题,以及如何设计能够捕捉到这一点的评估和架构。

llm-agents
evals
reward-hacking
observability
+1
·tian

你的 Agent 悄然适应了的那次工具版本升级

Agent 会悄无声息地消化工具的破坏性变更,因为它们对结构变化的包容性掩盖了原本能被严格客户端捕捉到的信号。本文介绍了如何让这些脆弱性重新显现出来的模式。

insider
llm-agents
api-contracts
schema-drift
+2
·tian

你的 LLM 抄不准的那个账号

LLM 是 token 预测器,不是字符串复印机。当两个相似的账号出现在同一段上下文里,智能体会换错数字、把退款打给错的客户,留下一条干净得看不出问题的 trace。修复方式是把『标识符保真』从模型的工作描述里剔除出去。

insider
llm-agents
tool-use
reliability
+1
·tian

回填问题:为什么智能体记忆需要像数据库一样进行迁移

智能体记忆是一个生产环境数据库,每当你改进其格式时,它都会发生偏移。在旧记忆悄然失效之前,请对记录进行版本控制,编写真实的迁移脚本,并完成回填。

agent-memory
schema-migration
data-engineering
llm-agents
+1
·tian

智能体从未接收到的服务降级信号

调用下游 API 的智能体只能看到其最后一次请求的响应——没有状态页面、没有变更日志、没有警告横幅。本文探讨了为什么智能体会直接陷入服务部分故障(brownouts)和速率限制,以及如何构建侧信道,以传递那些智能体从未被赋予收听方式的运维信号。

llm-agents
api-design
observability
reliability
+1
·tian

那个没人同意却成了规范的评估套件

大多数 Agent 团队没有需求文档 —— 评估套件默认成为了规范。为什么全绿的评估运行结果只证明了一个工程师的假设,以及如何以 API Schema 的评审严谨度来对待评估集。

ai-engineering
llm-agents
evaluation
product-management
·tian

你无法通过邮件给模型发送变更日志:为什么当调用者是 LLM 时,API 弃用机制会失效

LLM 调用者没有收件箱,没有稳定的身份,也没有义务阅读你的迁移指南。本文将探讨为什么沿用了 15 年的 API 弃用策略在 Agent 面前会失效,以及我们应该如何改进工具 Schema、错误信息和网关。

api-design
llm-agents
deprecation
tool-calling
显示第 1–12 篇,共 31 篇
1 / 3下一页