6 含有标签「agent-security」

Posts tagged "agent-security" on TianPan.co.

爆炸半径即权限模型：按‘能破坏什么’而非‘能读取什么’来隔离智能体沙箱

Replit 智能体在删除生产数据库之前执行的每一条命令都经过了授权 —— 权限模型回答了错误的问题。为什么智能体安全取决于执行环境：作用域令牌、临时分支、出站流量白名单、支出上限，以及设置在爆炸半径边界上的审批关卡。

每个工具的 ACL 都没有问题，但它们的组合导致了 PII 泄露。智能体权限表面是工具目录在组合下的闭包，而针对单个工具的审查只是在审计词汇，规划器却在构建句子。

为 LLM Agent 增加的每一个新工具都会呈非线性地增加行为复杂度 —— 产生交互效应、评估盲点和安全漏洞，其增长速度远快于能力增益。本文将探讨如何在 Agent 的表面积超出你的控制范围之前对其进行审计。

一个在生产环境中误触发的 AI 智能体，不只是失败——它会在权限范围内真实行动。本文介绍大多数团队跳过的上线前演练：对每个工具的最坏情况建模、按可逆性分类操作，并在第一次事故教会你边界在哪里之前，强制执行权限上限。

内存投毒允许攻击者在智能体的长期内存中植入指令，这些指令能跨会话存在并在数周后执行——在测试系统中注入成功率高达 95%。本文将介绍如何通过内存分区、来源追踪、时间衰减和行为漂移检测来进行防御。

一份关于智能体沙箱光谱的实用指南——从 Docker 容器到 Firecracker microVM——涵盖了能力限制模型、真实世界的逃逸向量，以及根据风险匹配隔离深度的决策框架。