跳转到主要内容

990 含有标签「insider」

TianPan.co 上标记为“insider”的文章。

查看所有标签

·tian

为什么 AI 功能开关不同于普通功能开关

部署 AI 模型时,传统的金丝雀分析会失效——错误率保持平稳,而质量却在悄无声息地下降。本文介绍了应该监测哪些指标,以及如何为概率性系统构建真正有效的回滚触发器。

insider
ai-engineering
feature-flags
mlops
+1
·tian

AI 事故响应手册:为什么你的值班 Runbook 对 LLM 不管用

传统值班 Runbook 在 AI 系统中会失效,因为故障是非确定性的、质量下降没有错误码,根本原因排查需要一套完全不同的框架。本文介绍真正有效的做法。

insider
ai
llm
observability
+2
·tian

AI 事故复盘:当「模型导致的」成为根本原因

当故障具有随机性时,经典的五问分析法就会失效。本文介绍如何为 AI 事故撰写有价值的事后分析报告、在推理阶段应捕获哪些遥测数据,以及如何构建不止于「加强监控」的运行手册。

insider
ai-engineering
observability
incident-response
+2
·tian

摊销上下文:持久化智能体记忆 vs 长上下文窗口

长上下文模型诱使你将所有内容都塞进去 —— 但这会导致成本增加 15 倍,且生成的答案质量更差。本文介绍了一套决策框架,帮助你确定哪些内容应存入外部记忆、哪些内容需重新检索,以及哪些内容应保留在窗口内,并配合压缩模式,让记忆增强智能体在大规模应用中更便宜、更准确。

insider
ai-engineering
agent-memory
llm
+2
·tian

AI缓存失效:为什么答案可以改变时每个缓存层都更难处理

传统的TTL和基于标签的缓存失效机制在AI系统中失效了。本文逐层拆解每个缓存层——语义缓存、RAG知识库、提示缓存和嵌入索引——各层特有的故障模式,以及在生产中保持一致性的设计模式。

insider
ai-engineering
caching
rag
+2
·tian

LLM 升级的金丝雀发布:为什么模型上线与代码部署的失效方式完全不同

替换 LLM 版本并非简单的代码部署。输出语义会发生偏移,下游解析器会因为细微的结构差异而崩溃,等你的监控告警响起时,成千上万的用户可能已经遭遇了失败。本文将介绍让模型升级变得可预测的工程规范。

insider
llm
production
deployment
+2
·tian

Prompt 工程无法突破的数据质量天花板

当底层数据存在噪声、过时或重复问题时,Prompt 工程会触碰到一道硬性天花板。本文将介绍如何诊断数据失效与模型失效,以及哪些手段才能真正改变结果。

insider
ai-engineering
data-quality
rag
+2
·tian

GDPR 的删除难题:为什么你的 LLM 记忆存储是法律风险

RAG 管道和长期 LLM 记忆存储在 GDPR 下属于个人数据处理器。被遗忘权带来的删除传播问题是标准向量数据库无法干净解决的——以下是使 LLM 记忆在欧盟合法运营的架构模式。

insider
gdpr
llm
vector-database
+2
·tian

黄金数据集衰减问题:当你的评估集成为负担时

经过精心策划的评估集在数月后会悄然偏离生产环境的实际情况。了解如何检测评估何时测量了错误的目标、保持基准测试真实性的轮换策略,以及告诉你何时该重新构建评估集的监控触发器。

insider
ai-engineering
evaluation
llm
+1
·tian

古德哈特定律现已成为 AI Agent 的难题

AI Agent 是极其彻底的数学优化器 —— 当代理指标成为训练目标时,能力强大的模型会可靠地发现并利用其中的漏洞。本文将介绍如何在奖励信号演变为攻击面之前对其进行审计。

insider
ai-agents
llm
evaluation
+2
·tian

优雅的工具调用失败:你的 Agent UI 缺失的错误契约

大多数 Agent UI 只处理成功路径。以下是将工具调用失败从崩溃变为可恢复时刻所需的错误契约和 UX 模式。

insider
ai-engineering
agents
ux
+1
·tian

这个提示词去年还有意义:AI 系统中的机构知识衰减

当构建 AI 系统的工程师离职后,系统不会立即崩溃——它会缓慢腐烂。以下是如何通过提示词原理文件、评估来源日志和护栏理由注释来防止衰减。

insider
ai-engineering
prompt-engineering
documentation
+1
显示第 649–660 篇,共 990 篇