跳转到主要内容

834 含有标签「ai-engineering」

Posts tagged "ai-engineering" on TianPan.co.

查看所有标签

·tian

渐进式上下文替换:在长 AI 对话中保持质量的方法

硬截断和朴素摘要在长 AI 对话中都会导致质量下降。滚动替换模式——对近期轮次保持原始状态,同时对较旧内容进行增量压缩——是在会话超过四十轮时保持质量的有效方法。

insider
ai-engineering
context-management
llm
+1
·tian

HIPAA、SOC2 与你的智能体:合规性对架构产生的实际约束

大多数 AI 团队在审计时才发现合规要求,而不是在第一个迭代周期。本文将探讨 HIPAA 和 SOC2 在架构上的实际要求,以及三个你无法在后期补救的关键决策。

insider
ai-engineering
compliance
hipaa
+2
·tian

人工接管作为一等功能:设计能够优雅降级至人工控制的 AI 系统

大多数 AI 系统将人工接管视为错误状态,而非设计模式。以下是如何将接管协议构建为一等操作路径而非事后补救的方法。

insider
ai-engineering
production-ai
reliability
+1
·tian

隐形作者问题:当 AI 编写大部分代码时如何进行 Git Blame

当 46% 的代码由 AI 生成且不包含溯源元数据时,git blame 止步于一位接受了自己可能并不理解的建议的开发者。本文探讨了哪些环节会出现问题,以及团队正在采取什么应对措施。

ai-engineering
code-review
devops
software-engineering
·tian

LLM-as-Judge 的对抗性失效:当你的评测框架被操控

一个输出固定回复的「空模型」在 AlpacaEval 上拿下了 86.5% 的胜率。本文系统梳理 LLM 评测框架被操控的方式、其内在的结构性偏差,以及让评测流水线保持诚实的审计方案。

insider
evaluation
llm
ai-engineering
+1
·tian

Prompt 中的 PII:你的 AI 流水线缺失的数据最小化模式

客户个人数据正无形地流入上下文窗口、向量数据库和微调数据集。本文介绍了在不破坏模型质量的前提下,使 AI 流水线符合 GDPR/CCPA 合规要求的分类、清洗和架构模式。

ai-engineering
privacy
security
llm
+1
·tian

真正信守承诺的隐私模式:在 AI 功能中构建用户可控的数据边界

“大多数 AI 隐私模式都只是”留存剧场” —— 开关虽然在那,但数据照样流动。本文将介绍如何构建真正生效的用户可控数据边界,涵盖从临时推理到用户可验证的审计追踪等技术实现。”

insider
privacy
security
ai-engineering
+2
·tian

多模态输入中的提示注入:纯文本防御所忽视的视觉攻击面

基于文本的提示注入防御对隐藏在图像、PDF 和音频中的攻击视而不见。本文全面梳理多模态 AI 管道的攻击面,并介绍如何构建真正有效的分层防御体系。

security
llm
multimodal
ai-engineering
·tian

Prompt Injection 并不主要是一个攻击者问题

普通的用户内容 —— 产品评论、支持工单、文档 —— 可以在没有任何攻击者参与的情况下,大规模地覆盖你的 AI 行为。本文将探讨为什么标准防御手段会忽略这一结构性问题,以及真正解决该问题的架构模式。

insider
security
llm
ai-engineering
+1
·tian

Prompt 表面积问题:为什么增加一个工具绝不仅仅是增加一个工具

为 LLM Agent 增加的每一个新工具都会呈非线性地增加行为复杂度 —— 产生交互效应、评估盲点和安全漏洞,其增长速度远快于能力增益。本文将探讨如何在 Agent 的表面积超出你的控制范围之前对其进行审计。

llm-agents
agent-security
ai-engineering
evaluation
·tian

AI 知识库中的溯源债务:当 RAG 系统开始检索自身的输出

AI 生成的摘要、FAQ 和分析报告在没有来源标记的情况下不断积累进你的 RAG 语料库——每一次检索循环都会加剧误差。如何检测语料库污染,以及构建防止反馈循环的检索策略。

rag
llm
ai-engineering
knowledge-base
+1
·tian

配额饥饿:当你的 AI 功能相互消耗速率限制时

当多个 AI 功能共享同一个 API 密钥时,优先级由谁先发出请求隐式决定。以下是如何在批处理任务饿死面向用户的功能之前,让配额分配变得明确。

llm
rate-limiting
infrastructure
ai-engineering
显示第 265–276 篇,共 834 篇