跳转到主要内容

990 含有标签「insider」

TianPan.co 上标记为“insider”的文章。

查看所有标签

·tian

AI 可靠性下限:为什么 80% 准确率比没有 AI 还糟糕

存在一个可靠性下限,低于该下限的 AI 功能摧毁用户信任的速度,远比它积累价值的速度快。本文介绍如何在发布前找到这条红线。

insider
ai-engineering
product
reliability
+1
·tian

AI 采购鸿沟:为什么你的供应商评估流程无法处理概率性系统

传统的 RFP 关注功能评分和在线率 SLA,而这些对于随机性输出几乎没有意义。本文探讨了采购团队在面对 AI 时所缺失的评估驱动考核、合同条款以及供应商透明度信号。

insider
ai-procurement
llm-vendors
eval-driven
+2
·tian

LLM 流水线中的背压:排队论在基于 Token 的服务中的应用

如何将利特尔法则、准入控制、隔板模式和令牌桶背压应用于 LLM 调用图 —— 以及为什么幼稚的重试逻辑会将供应商的瞬时波动演变成系统停机。

insider
llm
backpressure
queue-theory
+2
·tian

你一直在忽略的偏见审计:如何为 LLM 流水线构建人口特征公平性

安全过滤器和公平性检查是不同的问题,需要不同的工程响应。针对性别、种族和语言群体的输出质量差异不会在你的护栏机制中体现 —— 这里有一套能在发布前捕捉这些差异的方法论。

insider
llm
fairness
bias
+2
·tian

持续微调而不污染数据:生产流水线指南

一份关于从用户反馈中持续微调大语言模型的生产工程指南——涵盖数据路由架构、污染检测、灾难性遗忘预防以及自动化安全保护。

insider
mlops
fine-tuning
llm
+1
·tian

为 Agentic 写入路径构建数据质量门禁:输入是垃圾,输出是不可逆的操作

拥有写入权限工具的 Agent 会将上游的数据质量问题直接转化为现实世界的副作用。本文将介绍防止此类问题的验证架构。

insider
ai-engineering
agents
reliability
+1
·tian

凌晨三点调试 AI:LLM 驱动系统的故障响应指南

500 错误有堆栈跟踪,而糟糕的生成结果有概率分布。本文介绍如何在 AI 事故毁掉你的一周之前,对其进行分类、调试和事后复盘。

insider
observability
incident-response
llm
+2
·tian

AI 的依赖注入:在不损失测试保真度的情况下模拟模型调用

在测试中模拟 LLM 调用看起来是一个简洁的抽象,但幼稚的桩代码 (stub) 会悄然失效,变成关于生产环境行为的谎言。通过分层 Fixture 架构 —— 桩模拟、录制回放、实时调用 —— 加上刻意的接缝设计,可以在不为每一次 commit 消耗高昂成本的情况下恢复测试保真度。

insider
llm-testing
dependency-injection
ai-engineering
+2
·tian

Eval 异味目录:让你的 LLM 评估套件比没有评估还糟糕的反模式

一份关于毒害 LLM 评估套件的反模式实战指南 —— 包括数据污染、脆弱的断言、评估腐化、评委合谋、虚荣聚合指标 —— 以及在无需重写整个测试框架的情况下恢复有效信号的重构模式。

insider
ai-engineering
evaluation
llm
+2
·tian

少样本饱和曲线:为什么添加更多示例最终会适得其反

向提示中添加更多少样本示例看起来是免费的收益——其实不然。这里有经验数据说明曲线在何处开始对你不利、为何发生以及该怎么做。

insider
prompt-engineering
llm
in-context-learning
+1
·tian

微调数据集溯源:六个月后你无法回答的审计问题

大多数生产中的微调模型无法可靠回答训练样本的来源问题。这里提供溯源注册表模式和审计工作流,让你在监管机构询问之前就有答案。

insider
fine-tuning
data-governance
compliance
+1
·tian

大多数 Agent 路由器跳过的意图分类层

大多数 Agent 路由器在每次请求时都加载所有工具 Schema,让 LLM 自行决策。当工具数量达到 417 个时,这种方式的准确率会崩跌至 20%。本文解释意图分类层如何解决这一问题——以及跳过它如何在规模化后悄然损毁准确率和成本。

insider
ai-engineering
agents
llm
+1
显示第 817–828 篇,共 990 篇