跳转到主要内容

990 含有标签「insider」

TianPan.co 上标记为“insider”的文章。

查看所有标签

·tian

评估基准真相中的标注者偏差:当你的标签系统性地将你引向歧途

探讨标注者的选择、人口统计学特征以及系统性错误模式是如何在训练开始前就破坏你的评估基准真相的,并介绍捕获这些问题的审计方法论。

insider
evaluation
data-quality
machine-learning
+1
·tian

非确定性服务的 API 契约:随机输出下的版本管理

传统 API 契约在封装 LLM 的服务中会失效。本文介绍如何对概率性系统进行版本管理、测试并维护向后兼容性。

insider
llm
api
engineering
+2
·tian

浏览器原生 LLM 推理:你不知道自己需要的 WebGPU 工程化实践

通过 WebGPU 在浏览器中直接运行 LLM 将改变你的整个应用架构。本文将探讨其实际的能力上限,以及在哪些场景下混合路由方案优于纯云端方案。

insider
llm
webgpu
browser-ai
+2
·tian

AI生成内容中的版权风险:工程团队实用框架

LLM输出可能复现训练数据中的逐字内容,而输出责任可能落在你身上——而非模型提供商。一套用于衡量版权风险、实施切实有效的管控措施,以及理解提供商赔偿局限性的实用工程框架。

insider
ai
copyright
llm
+2
·tian

全球化 AI 产品的文化校准:为什么翻译只解决了 10% 的问题

LLM 精通数十种语言,但往往仅针对一种文化进行了校准。本文将探讨翻译所忽略的内容,以及如何通过工程手段解决这一问题。

insider
ai-engineering
localization
llm
+1
·tian

数据库连接池:AI 流水线中被忽视的性能瓶颈

AI 工作负载打破了标准连接池容量规划的所有假设。本文梳理背后的数学原理、常见故障模式,以及真正有效的解决方案。

insider
ai-engineering
database
performance
+1
·tian

Agent 链中的截止时间传播:第三跳时你的 p95 SLO 发生了什么

用户可见的延迟约束在穿越多步 agent 管道时悄然消失。本文剖析这一结构性问题,分析主流框架的处理方式(并不理想),以及能真正解决问题的截止时间传播模式。

insider
agents
latency
slo
+2
·tian

演示到生产的失败模式:为什么AI原型在真实用户到来时会崩溃

演示使用精心挑选的输入、预热缓存和有耐心的评估者。生产环境面对的是对抗性查询、分布偏移的请求以及8秒内就会放弃的用户。以下是缩小差距的预发布方法论。

insider
ai-engineering
production
testing
+1
·tian

Agent 流水线的分布式追踪:为什么你的 APM 工具形同虚设

标准 APM 工具在多步骤 Agent 流水线上会失效。以下是 AI Agent 专用可观测性的真正需求——以及三个能在用户察觉之前预判 Agent 劣化的关键指标。

insider
ai-engineering
observability
agents
+1
·tian

文档解析是 RAG 系统的隐形天花板

PDF 转文本流水线在你的嵌入模型看到数据之前,就会悄无声息地丢弃表格、打乱阅读顺序并破坏章节层级。本文将教你如何发现并修复 RAG 系统中真正的故障层。

insider
rag
document-processing
pdf
+2
·tian

赢得自主权:如何让 AI Agent 从受监督过渡到独立运行

一种基于实测性能历史数据逐步扩大 AI Agent 操作范围的框架,包含回滚触发机制和监管机制,以防止过早赋予自主权。

insider
ai-agents
production-ai
reliability
+1
·tian

边缘推理决策框架:何时在本地而非云端运行 AI 模型

为 AI 工程师提供的实用决策框架:分析在哪些情况下端侧和私有化部署的 LLM 推理优于云端 API,以及如何设计连接两者的混合架构。

insider
edge-inference
llm
ai-engineering
+2
显示第 769–780 篇,共 990 篇