跳转到主要内容
Tian Pan

Tian Pan

Software Engineer

查看所有作者

·tian

那个平台团队搭建却无人更新的模型注册表

模型注册表的晋级门槛只有在评审者拥有充足时间、独立证据以及一致的激励机制时才能发挥作用。大多数团队只完成了这套机制的前半部分,却忽略了其余部分,导致注册表沦为一种文书流水线,无论开发者交付什么都会被批准。

mlops
governance
platform-engineering
ai-safety
+1
·tian

那个按会话分桶并导致 A/B 测试分群漂移的模型发布标志

当 Feature Flag SDK 按会话缓存、灰度发布更新了哈希盐值(Hash Salt),且分析脚本按事件发生时的标志值进行分组时,原本 4% 的满意度提升变成了一个干扰项。本文将探讨分群漂移是如何潜伏在运行正常的流水线中的,以及弥合这一差距的方法。

insider
ab-testing
feature-flags
llm-rollout
+2
·tian

配额窗口机制重写后,这批夜间脚本是如何拖垮你的交互流量的

一个夜间 LLM 批处理任务稳定运行了 10 个月,直到供应商重写了每日窗口的计算方式——将 00:05 UTC 的 Cron 任务变成了交互式流量的自杀式 429 异常。本文探讨为什么负载隔离、抖动和桶语义契约测试才是结构化的修复方案。

insider
rate-limits
llm-ops
reliability
+1
·tian

一个工具请求的 OAuth 作用域,为何被其他所有工具悄悄继承了?

探讨基于提供商的 OAuth 令牌存储如何静默地将所有工具的作用域并集授予每个工具,以及如何通过改进存储键结构来重新划定设计预期的权限边界。

oauth
ai-agents
security
authorization
+1
·tian

当 On-Behalf-Of 悄然变成 Act-As:你的智能体继承的 OAuth 作用域陷阱

一个持有用户形态 OAuth 令牌的 AI 智能体正在冒充该用户,无论安全审查如何称呼它。提示词注入是如何将这一间隙演变为安全事件的,以及修复该问题的令牌级模式。

insider
security
oauth
agents
+2
·tian

那些被静音的 LLM 报警:当每一次值班看起来都和上一个一模一样

当看起来完全相同的报警不断出现却无法触发任何后续行动时,LLM 功能的告警疲劳便悄然而至。随之而来的静音规则虽然是理性的适应行为,却最终破坏了生产环境的检测机制。

insider
llm-observability
on-call
alert-fatigue
+2
·tian

OpenTelemetry 尾部采样器丢弃了复盘最需要的 LLM Span

尾部采样(Tail-based sampling)是针对请求-响应世界而优化的,在那里,200 OK 和“值得保留”几乎是一回事。然而,LLM 系统打破了这一约定——而你最需要的追踪记录,往往正是你的采样器配置为丢弃的那一个。

observability
llm
opentelemetry
tracing
+1
·tian

系统提示词提供的人格,模型每次都会以同样的方式选择

当你的系统提示词要求模型在不同人格之间做出选择时,模型的训练先验决定了结果——在实验平台察觉到之前,你的 A/B 测试分支就已经坍缩了。

insider
llm
ab-testing
experimentation
+2
·tian

那个保护了日志却让模型泄露输出结果的 PII 脱敏器

仅针对输入的 PII 脱敏器只是半个控制措施。一旦模型具备了生成能力,输出路径就变成了你在审查中从未提及的泄露面。

privacy
llm
agents
security
+2
·tian

那个脱敏了用户提问却遗漏了提示词缓存的 PII 脱敏器

保护分析流水线的脱敏器对推理路径上的提示词缓存毫无作用 —— 而这些未列入清单的缓存正是下一次数据留存违规的隐患所在。

insider
llm-privacy
prompt-caching
gdpr
+2
·tian

安全智能体如何跨过那行它“看不见”的注释,升级了被固定的依赖

两个 AI 编程智能体因为互不知道对方的存在,向欧洲客户发布了一个差一错误(off-by-one)的日期 Bug。这是一份关于将代码库中的多智能体协作视为分布式系统问题的实战指南。

insider
ai-agents
dependency-management
devops
+2
·tian

用户还来不及核实多模态模型的结论,预签名 URL 就已过期

当资产时钟和结论时钟的运行速度不一致时,任何基于事实的多模态回答在日后回溯对话的人看来,最终都会像是凭空捏造。

ai-engineering
multimodal
observability
storage
显示第 193–204 篇,共 2312 篇