跳转到主要内容

348 含有标签「observability」

Posts tagged "observability" on TianPan.co.

查看所有标签

·tian

多会话评估设计:捕捉随时间推移而恶化的 AI 功能

单轮评估往往会忽略那些只有在状态累积后才会出现的 AI 故障。本文将探讨如何设计多会话评估框架、衰减曲线和回归方法,在用户流失之前捕捉到质量腐烂。

ai-engineering
evaluation
llm-memory
observability
+1
·tian

提示熵预算:将输出方差作为生产环境的核心指标

大多数生产环境的 LLM 系统只追踪准确率,却忽视了方差。衡量相同输入的输出分布——即提示熵预算——是决定用户体验一致性的缺失指标。

llm
production
observability
evaluation
+1
·tian

智能体审计追踪:自主决策时代的合规之道

人工决策会自然形成问责记录,而智能体决策不会。以下是针对 HIPAA、SOX 和 SEC Rule 17a-4 的决策归因架构实际需要的样子。

insider
compliance
ai-agents
observability
+1
·tian

系统化调试 LLM 故障:给读不懂日志的工程师的实战指南

当 Prompt 在生产环境中失效时,大多数工程师会不断尝试随机修改,直到勉强奏效。这里有一套结构化方法论——输入消融、边界测试和中间过程检查——能让你在几分钟内而非几小时内找到根本原因。

ai-engineering
llm
debugging
observability
·tian

为什么渐进式发布对 AI 功能不起作用(以及该怎么做)

特征标志和金丝雀部署假设代码是确定性的。AI 功能是随机的,质量会悄无声息地下降,而且没有实时的标准答案。这里介绍了安全部署 AI 所需的心智模型转变。

ai-engineering
deployment
feature-flags
llmops
+1
·tian

运营模型卡:实验室不发布的部署文档

已发布的模型卡告诉你模型是否安全——但不会告诉你它能否满足你的p95 SLA、在什么上下文长度下性能会下降,或者它产生格式错误JSON的频率。这里是构建你真正需要的部署文档的测试套件。

llm
production
deployment
observability
+1
·tian

异步 Agent 的静默失败:为何你的 AI 任务悄然终止却无人察觉

异步 AI 任务会静默而自信地失败——HTTP 200,仪表盘一片绿,客户最终投诉才发现。本文介绍死信队列、幂等键和 Saga 日志如何从传统分布式系统迁移到 AI Agent 场景以解决这一问题。

insider
ai-agents
observability
distributed-systems
+1
·tian

AI 回滚仪式:当损害是行为性而非二元性时的事故后恢复

LLM 系统中的行为回归不会导致测试失败或触发警报。本文将介绍如何检测、诊断并从这种看似成功的故障模式中恢复。

llmops
observability
reliability
incident-response
·tian

AI 系统的数据溯源:追踪答案来源已成为工程必修课

当你的 LLM 在生产环境中给出错误答案时,你能追溯到底是哪些文档导致了这个结果吗?如果不能,你已经落后了。本文介绍如何从第一天起就将来源血缘嵌入 AI 系统。

insider
ai-engineering
rag
observability
+1
·tian

当数据库迁移悄然摧毁 AI Agent 的世界模型

一次常规的列重命名可能在不触发任何告警的情况下悄悄破坏 AI Agent 的推理。Schema-Prompt 契约测试和 CI 门禁如何在用户发现之前捕获这种漂移。

insider
ai-agents
database
schema-migration
+1
·tian

智能体行为版本控制:为什么 Git 提交无法捕获真正的变化

Git 提交和语义版本控制无法捕获 AI 智能体行为的实际变化。了解行为快照、翻转中心门控和轨迹测试套件如何定义非确定性系统中'版本'的真正含义。

ai-agents
versioning
mlops
deployment
+1
·tian

像调试分布式系统一样调试你的 AI 智能体,而非把它当作普通程序

打印语句和扁平日志无法应对多步骤 AI 智能体的调试需求。结构化追踪、确定性重放以及重放-分叉-对比方法论,将分布式系统的调试理念引入智能体工作流。

ai-agents
debugging
observability
distributed-systems
显示第 313–324 篇,共 348 篇