跳转到主要内容

127 含有标签「security」

Posts tagged "security" on TianPan.co.

查看所有标签

·tian

RAG 管道中的 PII 泄露:为什么你的聊天机器人知道它不该知道的事情

语义相似性并不遵循数据访问边界。本文将探讨 RAG 管道如何将敏感记录暴露给未经授权的用户,以及阻止这种行为的分层防御机制。

rag
security
privacy
llm
+1
·tian

Embedding的隐私架构:你的向量数据库对用户了解多少

对用户文档进行embedding会产生传统数据库没有的全新隐私攻击面。本文介绍重识别风险的工作原理、RAG管道中访问控制的失效点,以及真正能解决问题的架构模式。

insider
security
privacy
rag
+2
·tian

提示注入是供应链问题,而非输入验证问题

按请求净化给团队带来了虚假的安全感。随着RAG系统索引数百万文档、智能体消费第三方工具输出,真正的防御需要架构层面的控制:内容溯源、信任层级执行和沙箱隔离。

security
ai-engineering
rag
agents
·tian

面向消费者的 LLM 功能红队测试:抢在用户之前发现注入攻击面

面向消费者的 LLM 功能面临着内部智能体从未遇到的攻击面。本指南提供关于注入向量、大规模越狱模式、模型反演风险以及生产级 AI 系统化加固方案的实用建议。

llm
security
red-teaming
prompt-injection
+1
·tian

为具备代码编写能力的智能体构建沙箱:最小权限原则并非可选

仅靠 API 密钥范围限制是不够的。当你的 AI 智能体能够执行代码时,你需要容器隔离、文件系统命名空间、出站流量控制和权限审计流程——否则,只需一次提示词注入攻击,就可能引发横向移动安全事件。

insider
ai-engineering
security
agents
+1
·tian

大规模 Text-to-SQL:上线之前没人告诉你的那些事

Text-to-SQL 演示很容易构建,生产部署却截然不同。Schema 歧义、权限提升以及 80% 的基准测试差距,揭示了大多数团队忽略的工程层。

ai-engineering
sql
agents
security
+1
·tian

智能体身份与委托授权:智能体操作的 OAuth 模式

当 AI 智能体代表你预订日历事件或发送电子邮件时,它在委托授权下运行。本文介绍如何为生产环境智能体系统设计 OAuth 范围合约、轮换生命周期、撤销触发器和审计跟踪。

ai-engineering
security
oauth
agents
·tian

大规模提示词注入:防御智能体流水线免受恶意内容的侵害

提示词注入是生产环境 AI 智能体中的首要漏洞。本文将探讨其攻击面、为什么指令级防御会失效,以及在对抗压力下保持系统可用性的架构设计。

security
ai-agents
llm
ai-engineering
·tian

当你部署企业级 AI 时,你也制造了内部威胁

为员工提供 AI 编程助手和文档搜索智能体,也让被窃取的内部账户获得了显著放大的能力。本文将探讨其威胁模型以及限制爆炸半径的架构控制措施。

insider
ai
security
enterprise
+1
·tian

最小足迹原则:自主 AI 智能体的最小权限设计

设计自主 AI 智能体时,应仅请求当前任务所需的权限——通过临时凭证、意图感知访问配置和隔离执行,将 Unix 最小权限原则应用于智能体系统。

insider
ai-agents
security
authorization
+1
·tian

每日十万请求下的提示注入检测:为何简单防御失效,以及真正有效的方法

静态过滤器和 LLM 判断方法在高吞吐量下均会失效。这是在 200ms 延迟预算内真正能拦截提示注入的分层分类器架构。

security
llm
production
ai-engineering
·tian

向量存储访问控制:大多数 RAG 团队忽略的行级安全问题

如果在查询时没有强制执行数据块级授权,多租户 RAG 系统会默默地提供错误的文档。本文将探讨为什么检索后过滤只是“安全剧场”,并介绍真正有效的架构模式。

security
rag
vector-database
multi-tenancy
+1
显示第 85–96 篇,共 127 篇