跳转到主要内容

834 含有标签「ai-engineering」

Posts tagged "ai-engineering" on TianPan.co.

查看所有标签

·tian

在 18 个月后复现 AI 决策

一旦模型、提示词和检索索引都发生了轮换,复现你在 18 个月前做出的 AI 决策几乎是不可能的。本文将介绍如何在推理时捕捉具有说服力的决策记录。

ai-engineering
compliance
observability
llmops
+1
·tian

无法回滚的功能开关:提示词

提示词的修改会瞬间改变所有用户的生产环境行为,既没有金丝雀发布,也没有有效的回滚机制。本文将探讨提示词和模型版本固定为何脱离了发布规范,以及将其重新纳入规范的五个原语。

insider
llmops
prompt-engineering
release-management
+2
·tian

FinOps 鸿沟:为什么没有人批准你那 4 万美元的 AI 账单

模型支出通过你的变更管理流程从未审查的代码路径进入生产环境。本文将探讨为什么 Token 成本在审批中是不可见的,以及弥补这一鸿沟的归因、成本分摊(Showback)和支出闸门(Spend-gate)等原语。

insider
finops
llm
cost-optimization
+2
·tian

腐烂的黄金数据集:为什么你的评估集会与产品脱节

一个持续通过的黄金评估集可能在对你撒谎。本文探讨评估数据集如何因覆盖范围缺失、标签陈旧和分布偏斜而腐烂,以及如何通过数据卫生保持评分的真实性。

insider
ai-engineering
llm-evaluation
mlops
+1
·tian

语义差异:当行级对比毫无意义时,如何评审 Prompt 变更

仅仅三个词的 Prompt 修改就可能让你的幻觉率翻三倍,而行级对比(Line Diff)看起来却毫无破绽。为什么 Prompt 变更需要语义差异(Semantic Diff)—— 比较行为而非文本 —— 以及如何在 PR 中对此进行门控拦截。

prompt-engineering
llm
code-review
evaluation
+1
·tian

你无法删除的用户:AI 系统中的被遗忘权

一项“被遗忘权”请求揭示了 AI 系统中一个令人不安的事实:用户数据散布在模型权重、向量索引和缓存中,且没有单一的数据行可以删除。本文探讨如何为“可遗忘性”进行设计。

ai-engineering
privacy
gdpr
machine-unlearning
+1
·tian

与先验对抗:当模型掌握了错误版本的技术栈时

你的编程模型并不是对你的框架一无所知 —— 它掌握的是一个自信但错误的版本。本文将探讨为什么模型的先验知识会战胜你提供的上下文,以及哪些对策能真正奏效。

ai-engineering
llm
code-generation
context-engineering
+1
·tian

试点炼狱:廉价的 90% 正是你的 AI POC 无法转正的原因

一个可运行的 AI 演示只是那看起来像 100% 但其实很廉价的 90%。那些能确保其在生产环境中安全运行的评估、护栏、可观测性、成本上限和权属划分,才是没人预估过的昂贵的 10% —— 这里有一份清单,帮你提前预估这些成本。

insider
ai-engineering
llm
mlops
+1
·tian

AI 路线图:押注于尚不存在的模型

围绕模型在六个月后的预期表现来界定功能,会使你的计划变成对供应商发布时间表的预测。本文将探讨如何区分合理的模型能力博弈与空想,以及如何进行设计,使得更强大的模型是锦上添花,而非维持生存的氧气。

ai-engineering
product-strategy
roadmap
llm
+1
·tian

Prompt 缓存悬崖:一次系统提示词修改如何重置你的整个集群成本

在系统提示词顶部进行的一行修改可能会瞬间导致所有缓存前缀失效,使你的缓存命中率降至零,并让推理账单在隔夜之间翻倍 —— 本文将探讨其背后的原因,以及如何构建提示词结构以防止这种情况发生。

insider
prompt-caching
llm-cost
finops
+2
·tian

没有预发布模型的预发布环境

托管模型是你无法建立忠实预发布副本的唯一依赖项。本文将探讨为什么 LLM 的预生产一致性会失效,以及版本固定、重放、黄金转录和影子流量如何分别只能填补部分差距。

insider
llmops
staging
model-versioning
+2
·tian

两个模型厂商,一个功能:用冗余换来的连贯性噩梦

增加一个备选 LLM 厂商听起来像是教科书级的弹性设计,但两个模型并非两个副本。这里有没人预料到的隐藏的一致性与维护成本。

llm
reliability
architecture
ai-engineering
+1
显示第 1–12 篇,共 834 篇
1 / 70下一页