跳转到主要内容

990 含有标签「insider」

Posts tagged "insider" on TianPan.co.

查看所有标签

·tian

安全智能体如何跨过那行它“看不见”的注释,升级了被固定的依赖

两个 AI 编程智能体因为互不知道对方的存在,向欧洲客户发布了一个差一错误(off-by-one)的日期 Bug。这是一份关于将代码库中的多智能体协作视为分布式系统问题的实战指南。

insider
ai-agents
dependency-management
devops
+2
·tian

那些悄然成为你唯一评测集阅读者的提示工程师

你的评测集只是一个文件,而使其具备可读性的判断力却存在于某个工程师的脑海中 —— 本文将探讨这种巴士系数如何在他们离职后才显现出来。

insider
evals
ai-engineering
team
+2
·tian

被你的团队视为独立于模型版本的提示词版本

Prompt v37 是针对 Claude 4.6 调优的。平台团队将别名滚动到了 4.7。你的事故时间线显示没有部署 —— 因为没有人追踪这种配对关系。

insider
llmops
prompt-engineering
model-versioning
+1
·tian

那些悄悄将你的高级流量路由到 Haiku 的供应商自动路由器

通过供应商的 'auto' 别名减少 34% 的开支看起来像是一场胜利,直到你流量最高的界面的客户满意度连续两个季度下滑 —— 而批准此次上线的评估流程甚至从未见过路由器重定向到 Haiku 的那些提示词。

insider
llm
model-routing
cost-management
+1
·tian

RAG 去重环节的隐蔽失效:当近重复数据占满 Top-K 检索结果时

数据摄入阶段去重逻辑的隐蔽回归,可能导致你的 RAG 上下文中充斥着几乎相同的分块,而各项检索指标却依然显示正常。本文将探讨为什么相关性评分会漏掉这一问题,MMR 和契约测试如何填补这一漏洞,以及为什么流水线的质量上限受限于其最薄弱的不变量。

insider
rag
retrieval
llm-infrastructure
+2
·tian

当供应商重新定义 Bucket 时,那份让你溢出流量成本暴增的预留容量合同

预置吞吐量合同看起来像是一种固定费率的对冲工具,直到供应商悄悄改变了溢出流量的计算方式。防御手段包括账单核对、锁定计量的合同条款,以及能以小时而非季度为单位捕捉偏差的分层仪表板。

insider
llm-finops
reserved-capacity
contracts
+2
·tian

重试预算如何从你的仪表板中隐藏了供应商的真实错误率

一个在悄无声息间实现 99.9% 成功率 SLO 的同时导致账单翻了 3 倍的重试循环 —— 为什么重试后的可用性是向领导层报告的错误指标,你应该衡量什么,以及隐藏在可靠性层中的成本-质量调节开关。

insider
ai-engineering
observability
reliability
+2
·tian

被反向代理剥离的 SSE Keep-Alive,以及你支付了两次费用的 Prompt

LLM 流式响应看起来像是从模型到用户的通畅管道 —— 直到一次 35 秒的工具调用导致反向代理断开连接,你的客户端针对无状态 API 重试整个 Prompt,最终用户的账单为同一个响应支付了两次费用。

insider
ai-engineering
llm
observability
+2
·tian

那些将模型未完成的残缺回答存入数据库的流式 UI

当流在生成中途报错时,乐观写入的内容可能会变成正式记录。本文探讨了为什么聊天 UI 会将残缺回答误认为完整答案,以及修复该问题的“定稿契约”。

insider
streaming
llm-ops
ux
+2
·tian

那个因为共享 Prompt 模板而对子代理盲目“盖章”放行的监督代理

一个共享 Prompt 模板的“监督代理审查子代理”循环并不是独立的检查——它本质上是同一个模型在自我肯定,而极高的批准率正是其破绽。

insider
multi-agent
llm-as-judge
evaluation
+1
·tian

你在供应商支持呼叫中通过屏幕共享泄露的系统提示词

系统提示词保护方案加固了应用程序边界,却忽略了屏幕像素。泄露面覆盖了你的工程师参与的每一次屏幕共享、Loom 录制和供应商支持呼叫。

insider
ai-security
llm-ops
operational-security
+1
·tian

客户端估算的 Token 数量与供应商结算账单的差异

本地分词器估算值与供应商计费 Token 之间的细微漂移,通常只会被视为背景噪声,直到其在多语言内容、粘贴的代码以及工具 Schema 上集中体现 —— 此时财务部门会开始询问,为什么 AI 费用项与你自己的日志不再匹配。

insider
cost-management
llm
tokenization
+1
显示第 109–120 篇,共 990 篇