·tian
那个将你的系统提示词泄露到客户审计日志中的调试日志器
你的平台团队为了排查故障而添加的一个字段，最终出现在了租户的审计导出中 —— 这次泄露不需要任何攻击者，仅仅是两个“正确”的决定组合在了一起。
llm-security
observability
audit-logs
prompt-leakage
+1·tian
受监管行业的 AI 合规基础设施：大语言模型框架没能提供给你的东西
金融、医疗和法律领域的部署需要不可变的审计日志、输出血缘、拒绝跟踪和可解释性钩子，而大多数大语言模型框架并不能开箱即用地提供这些功能。本文介绍了填补这一空白的架构。
insider
compliance
security
production-ai
+1