跳转到主要内容

127 含有标签「security」

Posts tagged "security" on TianPan.co.

查看所有标签

·tian

没人阅读的审批提示

千篇一律的确认弹窗会训练用户不加阅读就点击『批准』——这与摧毁浏览器警告、医院警报和 SOC 告警的习惯化机制如出一辙。本文讲解如何对智能体操作做风险分级,并设计出人类真正会停下来看的中断提示。

ai-agents
human-in-the-loop
security
ux
+1
·tian

影子智能体:法务在事故复盘中才发现的 AI 功能

一个能够读取客户数据并采取行动的未经授权 AI 智能体,比任何违规的 SaaS 订阅都更令人震惊。本文探讨影子智能体是如何潜入生产环境的,为什么你现有的控制措施会失效,以及如何在数据泄露发生前发现它们的轻量级治理方案。

insider
shadow-ai
ai-agents
ai-governance
+2
·tian

新员工带来的智能体:个人 AI 记忆是双向的知识产权边界

现在,员工带着个人 AI 助手入职,这些助手的记忆中存储了上一份工作的上下文——而在离职时,你的公司信息又会被吸收到一个你无法审计或擦除的租户中。本文探讨了为什么智能体记忆是一个商业机密管理问题,以及入职、离职流程和雇佣合同需要做出哪些改变。

ai-agents
memory
trade-secrets
enterprise
+1
·tian

你的智能体幻觉出的软件包现在已存在 —— 而且它是恶意的

LLM 会反复幻觉出相同的虚假软件包名称 —— 43% 的名称在每次重新运行时都会重复出现 —— 而攻击者正在注册这些名称。本文探讨了为什么拥有安装权限的智能体会将幻觉演变为供应链攻击,为什么 Diff 审查无法捕捉此类问题,以及能够防御此类威胁的 lockfile、白名单和冷却期防御机制。

insider
ai-engineering
security
supply-chain
+2
·tian

你的 Agent 是别人的 Bot 难题

经过十年爬虫战争磨练的反机器人防御系统无法区分你的合法 Agent 与恶意攻击。本文探讨了为什么隐身是一种注定失败的军备竞赛,Web Bot Auth 和签名请求如何通过密码学身份取代伪装,以及如何在日益分裂的网络中运行 Agent。

ai-agents
web-infrastructure
security
bot-detection
·tian

你的 Embedding 是个人身份信息 (PII):反向攻击与向量数据库中的被遗忘权

反向攻击可以从 embedding 中恢复出原始文本——甚至包括临床笔记中的姓名——这使得你的向量数据库属于个人数据,而非匿名的数学表示。本文将探讨为什么删除请求在面对软删除、快照和代理 ID 时会失效,以及如何通过删除传播架构来解决这一问题。

privacy
security
rag
vector-database
+1
·tian

影子 AI:停止封禁,开始治理已经发生的泄露

员工已经将生产代码和客户数据粘贴到了消费级聊天机器人中。本文将探讨为什么封禁会适得其反、如何发现泄露,以及一个受治理的 AI 替代方案是什么样的。

shadow-ai
ai-governance
security
data-loss-prevention
+1
·tian

MCP 工具列表在会话中途增加,你的智能体调用了一个它从未被告知过的工具

在同一会话的两次调用之间,MCP 服务端可以增加其工具列表,而智能体的下一次选择可能会落在一个客户端从未被告知过的工具上 —— 这是一种能够转化为真实操作的幻觉。

mcp
ai-agents
security
protocol-design
·tian

那些你的团队遗忘在后台且正使用生产环境凭据运行的 MCP 服务器

在一个运行着 CI 级别 OAuth 令牌的开发人员笔记本电脑上,MCP 服务器就是一个生产环境的攻击面。本文将揭示 DNS 重绑定、错误的绑定以及共享令牌是如何将一个被攻陷的浏览器标签页演变成部署密钥泄露的。

insider
mcp
security
oauth
+1
·tian

一个工具请求的 OAuth 作用域,为何被其他所有工具悄悄继承了?

探讨基于提供商的 OAuth 令牌存储如何静默地将所有工具的作用域并集授予每个工具,以及如何通过改进存储键结构来重新划定设计预期的权限边界。

oauth
ai-agents
security
authorization
+1
·tian

当 On-Behalf-Of 悄然变成 Act-As:你的智能体继承的 OAuth 作用域陷阱

一个持有用户形态 OAuth 令牌的 AI 智能体正在冒充该用户,无论安全审查如何称呼它。提示词注入是如何将这一间隙演变为安全事件的,以及修复该问题的令牌级模式。

insider
security
oauth
agents
+2
·tian

那个保护了日志却让模型泄露输出结果的 PII 脱敏器

仅针对输入的 PII 脱敏器只是半个控制措施。一旦模型具备了生成能力,输出路径就变成了你在审查中从未提及的泄露面。

privacy
llm
agents
security
+2
显示第 1–12 篇,共 127 篇
1 / 11下一页