跳转到主要内容

834 含有标签「ai-engineering」

Posts tagged "ai-engineering" on TianPan.co.

查看所有标签

·tian

滑动窗口税:为什么 30 轮对话的成本远超单次对话的 30 倍

多轮 AI 功能在仪表板上按调用次数计费,但在实际支出中却遵循对话增长曲线。其长尾效应呈超线性增长,而这正是账单激增的根源。

insider
ai-engineering
llm-cost
prompt-caching
+1
·tian

快照评估衰减:当绿色的 CI 不再意味着你的产品仍然可用

一个运行了六个月的绿色评估套件可能正在用昨天的现实测试昨天的产品 —— 本文将探讨快照评估衰减是如何在众目睽睽之下隐藏的,以及如何保持评估集的生命力。

insider
evals
ai-engineering
observability
+2
·tian

流式响应追踪模式鸿沟:为什么你的 APM 在 LLM 延迟上撒了谎

流式 LLM 响应打破了请求/响应的 Span 模型。duration 字段具有误导性;故障发生在边界之间——如 TTFT 回归、中途停顿、内容死循环——而解决方案是采用基于检查点的 Token 时间事件,并建立真正的尾部事件分类体系。

llm-observability
streaming
opentelemetry
tracing
+1
·tian

少样本示例造成的租户泄露:当你的提示词库变成跨客户数据存储库

从生产追踪中挖掘少样本示例,会悄无声息地将你的系统提示词变成一个未经审计的多租户数据存储库。本文将介绍这种泄露是如何发生的,为什么它属于违反合同,以及在客户发现之前捕捉此类问题的规范流程。

insider
ai-engineering
security
multi-tenancy
+2
·tian

你的微调语料库是代码库。别再通过存储桶交付了。

应用程序代码拥有 PR 审查、签名提交和署名作者。而微调语料库只有一个 S3 存储桶和来自 2024 年的一批 Mechanical Turk 数据。威胁模型被倒置了,仅需 250 份文档就能给一个 13B 模型植入后门。

ai-engineering
security
mlops
fine-tuning
+1
·tian

《智能时代》逐章解读:这本 2004 年的著作预言了现代 AI 的半壁江山

逐章深度解读杰夫·霍金斯的经典著作《智能时代》——探讨它在“预测即认知”方面的先见之明,分析它在规模化扩展(Scaling)上的失算,以及为什么在 2026 年,它依然是我理解 Transformer 行为最清晰的思想模型

insider
ai-engineering
neuroscience
llm
+2
·tian

AI 工程师晋升自评报告:让随机性工作在绩效评审中清晰可见

AI 工程工作不适用于确定性的自评模板。本文介绍如何量化那些基于评估驱动、具有随机性且逐步发布的 AI 工作,从而让校准委员会能够真正认可你的贡献。

ai-engineering
career
evals
performance-review
+1
·tian

难度浓缩器:AI 客服分流正在让留下的员工精疲力竭

分流率衡量的是避开的难度,而非消除的难度。当 AI 处理了 80% 的简单工单时,人工队列中剩下的就全是 100% 的极端情况 —— 在数据仪表盘察觉之前,团队早已感受到了这种压力。

insider
ai-engineering
customer-support
operations
+2
·tian

浏览器 Agent 会话泄漏:当单个 Profile 服务于多个租户时

为了规避冷启动成本,长期运行的浏览器 Agent 往往会复用 Profile,但这可能导致一个租户的会话被错误地提供给另一个租户的请求。追踪记录显示成功 —— 而另一个用户的仪表板内容正被读取。

insider
ai-engineering
security
agents
+2
·tian

评估天花板:当你的黄金测试用例失去区分度时

一旦每个候选模型在相同的测试用例上都获得了 95+ 的分数,你的评估套件就不再具备任何衡量价值 —— 是尺子不再适用,而不是被测平台的问题。

insider
ai-engineering
evaluation
llm
+2
·tian

评估数据集是附带正确答案的客户数据

黄金评估集是与标记的正确答案配对的真实客户查询 —— 但大多数团队将其视为工程辅助工具,绕过了为底层生产数据构建的每一项隐私控制。

insider
llm-eval
ai-privacy
gdpr
+2
·tian

备用方案变成了默认方案:为什么你的分层配比需要 SLO

你的备用路径本应只处理 0.5% 的请求。现在它却承载了 38% 的流量。修复方案是将分层配比视为一等 SLO。

llm-ops
observability
slo
reliability
+1
显示第 205–216 篇,共 834 篇