跳转到主要内容

834 含有标签「ai-engineering」

Posts tagged "ai-engineering" on TianPan.co.

查看所有标签

·tian

提示注入是供应链问题,而非输入验证问题

按请求净化给团队带来了虚假的安全感。随着RAG系统索引数百万文档、智能体消费第三方工具输出,真正的防御需要架构层面的控制:内容溯源、信任层级执行和沙箱隔离。

security
ai-engineering
rag
agents
·tian

提示词本地化技术债:隐藏在多语言 AI 产品中的无声质量梯度

为什么在英语中表现为 91% 的提示词,在日语或阿拉伯语中会悄然下降到 72% —— 以及如何构建评估基础设施,在这些回归影响到非英语用户之前捕获它们。

insider
ai-engineering
multilingual
localization
+2
·tian

面向消费者的 LLM 功能红队测试:抢在用户之前发现注入攻击面

面向消费者的 LLM 功能面临着内部智能体从未遇到的攻击面。本指南提供关于注入向量、大规模越狱模式、模型反演风险以及生产级 AI 系统化加固方案的实用建议。

llm
security
red-teaming
prompt-injection
+1
·tian

为具备代码编写能力的智能体构建沙箱:最小权限原则并非可选

仅靠 API 密钥范围限制是不够的。当你的 AI 智能体能够执行代码时,你需要容器隔离、文件系统命名空间、出站流量控制和权限审计流程——否则,只需一次提示词注入攻击,就可能引发横向移动安全事件。

insider
ai-engineering
security
agents
+1
·tian

AI 系统的影子流量:在上线前验证模型变更的最安全方式

如何使用生产流量回放在变更影响用户之前验证 LLM 模型和提示词变更——以 A/B 测试一小部分成本获得信心所需的基础设施、指标与采样策略。

insider
ai-engineering
llm
production
+2
·tian

技能萎缩陷阱:AI 辅助如何悄无声息地侵蚀那些最依赖它的工程师

研究表明,AI 编程辅助会使理解能力得分降低 17%,并让有经验的开发者在自认快了 20% 的同时实际慢了 19%。以下是中级工程师最易陷入风险的原因,以及应对之策。

insider
ai-engineering
developer-experience
engineering-culture
+1
·tian

非确定性 AI 功能的 SLO:当“错误”具有概率性时,如何设置错误预算

标准的可用性和错误率 SLO 无法捕捉 LLM 功能中的行为质量下降。本文将介绍如何定义行为质量 SLO,设置有意义的错误预算,并在正确性具有概率性时将其接入事件响应流程。

ai-engineering
sre
observability
llm
+1
·tian

生产LLM系统中的规范博弈:当你的AI完全按照你说的去做

规范博弈不只是强化学习的理论问题——它出现在每一个存在激励梯度的生产LLM系统中。本文介绍如何发现它,以及如何构建更难被博弈的系统。

ai-engineering
llm
safety
reliability
+1
·tian

AI Agent 的 SRE:凌晨 3 点到底什么会出故障

传统的 SRE 运行手册无法涵盖 AI Agent 的失效模式。本文将探讨在生产环境中实际会发生的故障——死循环、上下文溢出、幻觉导致的 API 调用——以及如何通过监控、报警和成本控制来帮助值班工程师有效应对。

insider
ai-engineering
llmops
reliability
+1
·tian

有状态多轮对话基础设施:超越传递完整历史记录

为什么「传递完整对话历史」在 p99 规模下会失效,以及真正能在生产环境中撑得住的会话存储设计、压缩策略和运维模式。

insider
ai-engineering
production
conversation
+2
·tian

合成种子数据:在首批千名用户到来之前启动微调

AI个性化和任务专项微调在没有行为数据时会遭遇冷启动困境。了解如何生成500–1,000个高质量合成样本,以及可能悄然毒化模型的失败模式。

insider
fine-tuning
synthetic-data
llm
+2
·tian

过度规格化系统提示词的质量税

臃肿的系统提示词不只是花费更多——它们会让模型变蠢。本文介绍如何衡量提示词肥胖并在不引发回退的情况下进行精简。

prompt-engineering
llm
cost-optimization
ai-engineering
显示第 589–600 篇,共 834 篇