跳转到主要内容

834 含有标签「ai-engineering」

Posts tagged "ai-engineering" on TianPan.co.

查看所有标签

·tian

你的 Agent 把开发环境当成了生产环境,因为系统提示词从未指明是哪一个

Agent 继承了你的代码逻辑,但没有继承你的空间感。当预发和生产环境的提示词完全相同时,模型会根据训练数据来填充“它在哪里”的信息 —— 而“生产数据库”通常是默认选项。本文将介绍如何让 Agent 感知并锚定其所处的环境。

ai-engineering
agents
system-prompts
devops
+1
·tian

裁判模型被悄悄升级的评估框架

终端被悄悄更新的 LLM 裁判是一个没有校准契约的测量工具。固定快照版本、构建锚点集并运行双裁判窗口,确保 6 分的提升代表的是你的系统得到了改进 —— 而不是尺子变了。

insider
llm-eval
judge-model
calibration
+2
·tian

先收敛、后悄然崩溃的评估

停滞不前的评估分数并不总是意味着模型达到了天花板。当标注者趋于同质化时,一致性指标会上升,而评估则不再能衡量团队认为它正在衡量的内容。

evals
llm-judge
labeling
ai-engineering
+1
·tian

你的数据驻留政策中遗漏的推理区域锁定

提供商的区域参数看起来像是 AWS 的区域锁定,但其实际行为更像路由提示。混淆这两者的工程团队所交付的数据驻留方案,往往在第一次真正的审计面前就会崩塌。

data-residency
llm-infrastructure
compliance
ai-engineering
·tian

带有延迟预算的紧急开关:你的故障处理从未达到的标准

如果一个 AI 功能的遏制时间超过了其爆炸时间,那么所谓的紧急开关只是纸上谈兵,而非实际可用。测量激活延迟,根据损失率对其进行分层,并将该数值写入运行手册。

ai-engineering
incident-response
reliability
feature-flags
+1
·tian

你的 AI 功能路线图从未计算过的法律审查时间表

法律审查是并行路线图上的串行依赖。在第一次发布延期中意识到这一点的团队,会在之后的每一个季度为此付出代价。

ai-engineering
engineering-leadership
ai-compliance
ai-governance
+1
·tian

那个在你的代码冻结期间送达的模型弃用通知

供应商的弃用节奏并非无法预知的外部天气。将供应商的时间表视为生产基础设施,这样下一次的停用通知才不会重新打乱你整个季度的优先级。

insider
ai-engineering
llm-ops
planning
+1
·tian

那个把你唯一的硬样本也顺便带走的近似去重过滤器

激进的近似去重过滤会将你最难的样本视为噪声。本文将探讨为什么去重流水线会在你恰恰需要覆盖的数据分片上悄悄收缩分布,以及如何防止它在自我评估时误判为“成功”。

ai-engineering
datasets
deduplication
evaluation
+1
·tian

你的编程智能体生成的那些人类已经不再阅读的 PR 描述

PR 描述模板在由人类编写且格式承载关键信号时非常有效。而智能体生成的描述消除了差异性,导致审查者产生习惯化心理,使得审查流程悄然绕过了它原本依赖的交付物。

insider
coding-agents
code-review
developer-productivity
+2
·tian

提供商故障转移:在对话中途替换了你安全策略的隐忧

多供应商 LLM 故障转移通常将各厂商视为可互换的,但它们的拒绝阈值、语气和内容边界各不相同。本文将探讨网关如何成为策略控制面,以及会话亲和性和统一审核层究竟解决了什么问题。

llm-gateways
safety
reliability
ai-engineering
+1
·tian

你那两个独立的评估指标正不断破坏拒绝校准

将拒绝逻辑拆分为安全性评估和帮助性评估,注定会导致每次模型升级时两者此消彼长。解决方案是针对每个案例采用统一的“正确操作”指标进行评分。

insider
evals
llm-safety
refusal-calibration
+2
·tian

擦除模型仍在读取的上下文:数据保留策略带来的隐患

一个每晚运行的删除作业正在清理你的提示词组装器在请求时读取的消息表。模型进入了一个被截断的对话,并自信地捏造了用户实际同意的 SLA。这个 Bug 存在于两个都认为自己拥有该表的团队之间。

insider
ai-engineering
llm
data-retention
+2
显示第 85–96 篇,共 834 篇