跳转到主要内容

778 含有标签「llm」

Posts tagged "llm" on TianPan.co.

查看所有标签

·tian

测试无法察觉却破坏了一切的模型升级

你迁移到了更新的模型,所有评估都通过了,延迟也降低了,但支持工单却不断增加。本文将探讨这类能够绕过所有断言的回归问题,以及如何在用户发现之前捕捉到它们。

insider
llm
evaluation
production
+2
·tian

没有根本原因的事后分析

“五个为什么”事件回顾假设存在一个模型并不具备的确定性原因。本文将介绍如何编写一份真实的 LLM 事后分析报告,它建立在故障率增量和促成因素堆栈之上,而非寻找单一的根本原因。

insider
postmortem
llm
reliability
+2
·tian

两个模型厂商,一个功能:用冗余换来的连贯性噩梦

增加一个备选 LLM 厂商听起来像是教科书级的弹性设计,但两个模型并非两个副本。这里有没人预料到的隐藏的一致性与维护成本。

llm
reliability
architecture
ai-engineering
+1
·tian

你的 AI 账单只是一个未标记的行项目:当 Token 拒绝被标记时的 FinOps

模型 API 按 Key 和时间计费,而不是按功能或客户计费,因此你的 AI 支出最终只是一个未标记的行项目。本文将探讨为什么 Token 成本难以像云资源那样进行标记,以及在调用时应如何进行埋点以解决这一问题。

insider
finops
llm
cost-attribution
+2
·tian

你模型的置信度分数只是一种感觉,而非概率

LLM 自我报告的置信度并非概率 —— 它只是受 RLHF 激励机制影响而产生的流畅 Token。本文将探讨为什么校准是你从未衡量过的特性,以及你应该转而使用什么进行门控。

insider
llm
calibration
ai-reliability
+2
·tian

你的评估测试集对现任模型存在过拟合

私有评估集往往源自单一模型的生产环境故障,因此它会偏向现任模型,并低估所有挑战者。应将回归测试与能力测试分开,并针对真实的业务流量进行测试。

llm
evaluation
model-migration
ml-engineering
·tian

智能体输出的验收抽样:制造业质量保证领先于代码审查的秘诀

智能体每周交付数百个 PR,而其中大多数完全没有经过审查。制造业在一个世纪前就通过验收抽样解决了这个问题——利用 AQL 表、批次拒收和转移规则,将对智能体的信任从“凭感觉”转变为明确且可衡量的制度。

insider
agents
llm
quality-assurance
+1
·tian

Best-of-N 是一种架构,而不仅仅是打榜技巧

在一个答案背后运行 N 个并行尝试,往往比大模型的单次输出效果更好——前提是你设计好了评判器,去除了失败的相关性,并根据利害关系设定了 N 的预算。本文涵盖了成本计算、选择器的偏见问题以及“自信的错误者”现象。

insider
ai-engineering
llm
inference
+1
·tian

当你最大的客户端是 Prompt 时,如何弃用 API

AI 智能体不会阅读更新日志 —— 它们对你 API 的认知被冻结在 Prompt、工具 schema 和训练数据中。本文将探讨为什么关闭 v1 版本会导致重试风暴而非迁移,以及如何通过适配器、Sunset 响应头和智能体可读的错误信息来解决这一问题。

insider
api-design
ai-agents
versioning
+1
·tian

Token FinOps:将 AI 支出归因到具体功能

你的 LLM 账单无法告诉你具体是哪个功能在耗钱。本文将探讨为什么提示词缓存、批量 API 和多租户智能体会导致成本归因失效,以及如何通过打标签、Span 级计量和分摊规范来解决这一问题。

finops
llm
cost-optimization
ai-engineering
+1
·tian

GraphQL 终于找到了它的客户端,而且它不是人类

AI Agent 是第一批真正能够自主构建数据需求的客户端——这正是 GraphQL 最初设计的初衷。但 Agent 也放大了导致 GraphQL 在人类客户端竞争中落败的所有弱点。目前行之有效的模式是:Agent 在开发阶段构建查询,由人类进行审核并将其固定为持久化操作。

insider
ai-agents
graphql
api-design
+2
·tian

Agent 的端口与适配器架构:为什么你的工具 Schema 应该比供应商更长寿

供应商迁移往往在工具层而非提示词层崩溃。将工具 Schema 视为你拥有的端口 —— 为每个供应商和后端提供轻量级适配器 —— 你将免费获得确定性的 Agent 测试。

insider
ai-agents
architecture
tool-design
+1
显示第 13–24 篇,共 778 篇