跳转到主要内容

990 含有标签「insider」

TianPan.co 上标记为“insider”的文章。

查看所有标签

·tian

为具备代码编写能力的智能体构建沙箱:最小权限原则并非可选

仅靠 API 密钥范围限制是不够的。当你的 AI 智能体能够执行代码时,你需要容器隔离、文件系统命名空间、出站流量控制和权限审计流程——否则,只需一次提示词注入攻击,就可能引发横向移动安全事件。

insider
ai-engineering
security
agents
+1
·tian

AI 系统的影子流量:在上线前验证模型变更的最安全方式

如何使用生产流量回放在变更影响用户之前验证 LLM 模型和提示词变更——以 A/B 测试一小部分成本获得信心所需的基础设施、指标与采样策略。

insider
ai-engineering
llm
production
+2
·tian

共享提示服务问题:多团队 LLM 平台与依赖噩梦

当五个团队共用一个 AI 服务时,一次系统提示变更会悄无声息地破坏四个团队的评估流程。这里是防止这一问题的依赖管理框架。

insider
llm
platform-engineering
prompt-engineering
+1
·tian

技能萎缩陷阱:AI 辅助如何悄无声息地侵蚀那些最依赖它的工程师

研究表明,AI 编程辅助会使理解能力得分降低 17%,并让有经验的开发者在自认快了 20% 的同时实际慢了 19%。以下是中级工程师最易陷入风险的原因,以及应对之策。

insider
ai-engineering
developer-experience
engineering-culture
+1
·tian

AI Agent 的 SRE:凌晨 3 点到底什么会出故障

传统的 SRE 运行手册无法涵盖 AI Agent 的失效模式。本文将探讨在生产环境中实际会发生的故障——死循环、上下文溢出、幻觉导致的 API 调用——以及如何通过监控、报警和成本控制来帮助值班工程师有效应对。

insider
ai-engineering
llmops
reliability
+1
·tian

有状态多轮对话基础设施:超越传递完整历史记录

为什么「传递完整对话历史」在 p99 规模下会失效,以及真正能在生产环境中撑得住的会话存储设计、压缩策略和运维模式。

insider
ai-engineering
production
conversation
+2
·tian

结构化输出的隐性代价:JSON 模式质量税

约束解码能保证 JSON 格式合法,但会带来隐性的质量损耗。本文教你如何量化这笔质量税,并判断在你的业务场景下是否值得支付。

insider
llm
structured-outputs
production-ai
+2
·tian

合成种子数据:在首批千名用户到来之前启动微调

AI个性化和任务专项微调在没有行为数据时会遭遇冷启动困境。了解如何生成500–1,000个高质量合成样本,以及可能悄然毒化模型的失败模式。

insider
fine-tuning
synthetic-data
llm
+2
·tian

你的 RAG 懂文档,但它不懂你的工程师所知道的。

大多数企业级 RAG 系统只索引书面文档,忽略了真正驱动决策的隐性知识。本文将探讨如何构建能够捕获工程师核心知识的系统,以免这些宝贵财富随人员流失而消失。

insider
rag
knowledge-management
enterprise-ai
+2
·tian

用户适配陷阱:为什么回滚 AI 模型会导致两次破坏

当模型更新引入了细微的错误行为时,用户会围绕它调整工作流程。当你发现并回滚时,你可能最终会得到两组被“破坏”的用户,而不是一组。

insider
ai-engineering
llmops
model-deployment
+1
·tian

为什么视觉模型在基准测试中表现卓越,却在你的企业级 PDF 上折戟沉沙

视觉模型在文档理解的基准测试中表现惊人,但在处理真实的 PDF 时,企业团队经常会遇到静默失败。本文将分析失效原因,并探讨如何构建能够经受生产环境文档考验的处理流水线。

insider
document-ai
vision-models
production-ml
+2
·tian

AI 原生 API 设计:当后端开始概率性思维,REST 为何失效

REST 是为快速、确定性后端而生的。LLM 服务速度慢、具有概率性且任务耗时长——而真正在生产环境中经得住考验的接口模式,与传统 HTTP API 设计截然不同。

insider
api-design
llm
streaming
+1
显示第 733–744 篇,共 990 篇