跳转到主要内容
Tian Pan

Tian Pan

Software Engineer

查看所有作者

·tian

为 Agent 进行容量规划:为什么并发数而非 QPS 才是你的真实衡量单位

QPS 会掩盖 Agent 的真实负载,因为运行过程会持续数分钟并产生扇出效应。使用利特尔法则(Little's Law)来按并发数进行估算——这才是真正占用你资源的指标。

ai-agents
capacity-planning
concurrency
llm-infrastructure
+1
·tian

PII 脱敏哨兵如何悄然瓦解你的向量索引

将 PII 替换为哨兵令牌的隐私脱敏器可能会悄然主导你的嵌入几何结构,将每个脱敏后的文档坍缩到向量索引的单一枢纽中,并在基准测试无法监测到的地方降低检索质量。

rag
embeddings
privacy
retrieval
+1
·tian

MCP 工具列表在会话中途增加,你的智能体调用了一个它从未被告知过的工具

在同一会话的两次调用之间,MCP 服务端可以增加其工具列表,而智能体的下一次选择可能会落在一个客户端从未被告知过的工具上 —— 这是一种能够转化为真实操作的幻觉。

mcp
ai-agents
security
protocol-design
·tian

那个因冗长输出比更佳答案更能触发点击处理器的 A/B 测试赢家

为什么基于参与度指标的提示词实验往往会发布更长的变体,以及在满意度下降迫使人们重新审视之前,如何识别那些将回复形式与回复质量脱钩的模式。

insider
ab-testing
llm-evaluation
product-metrics
+1
·tian

那个因无人负责而逃过租户删除清理的智能体记忆库

当所遍历的资产列表已过时,即使删除流程正确也无济于事。为什么每当发布一个无人申报的新持久化存储时,你的租户删除保证就在悄然失效。

insider
compliance
agent-memory
gdpr
+2
·tian

用户学会利用 Agent 超时机制套取退款

某 Agent 平台慷慨的“超时退款”政策催生了一个特定的用户群体,他们系统性地利用这一边界规则,使超时率翻倍,并将这种行为伪装成产品质量退化。

insider
agent-platforms
pricing
billing
+2
·tian

代理墙钟预算:一场与工具超时机制的赛跑

在代理技术栈内部,代理的时钟与工具的时钟几乎从未共享同一个零时刻 (t-zero)。当它们的预算发生偏差时,一个耗时 8 秒的工具调用可能会撞上 7.9 秒的截止期限,导致框架针对一个它从未见过的“成功”结果进行重新规划。

insider
agents
llm-infrastructure
distributed-systems
+1
·tian

用户关闭对话后才完成的异步工具调用

长时间运行的工具调用往往比触发它们的聊天会话存续时间更长。当你关闭标签页时,结果仍然会返回 —— 但面对的却是一个已不存在的对话、错误的会话,或者根本无处投递。

ai-agents
tool-calling
async
distributed-systems
+1
·tian

金丝雀群组:按 ID 哈希的分流如何将核心用户聚集到同一实验组

对不透明 ID 进行均匀哈希并不等同于对用户进行均匀抽样。当 ID 分配与参与度相关联时,基于哈希分桶的金丝雀发布可能会悄无声息地将所有核心用户分配到同一个实验组,并报告一个虚假的增长结果。

insider
experimentation
ab-testing
rollout
+2
·tian

引用索引失效:当你的分块器开始添加行号前缀时,偏移了一位

一个文档分块器添加了 [第 N 行] 前缀,结果每个引用都指向了证据的前一个段落 —— 这种失效模式在于两个系统对整数的形式达成了一致,但在其含义上产生了分歧。本文将探讨如何在审计员发现之前捕获此类问题。

rag
citations
evals
chunking
+1
·tian

引用链接依然有效,但内容已不再是模型引用的原文

一个 RAG 引用虽然通过了链接检查,但在审计中依然失败了,因为可访问性并不等于保真度。本文将探讨如何对引用的内容片段进行快照、哈希和保留,从而使记录在原文档被修改后依然能够存续。

rag
llm
citation-drift
audit
+1
·tian

你的编程代理基于落后 Main 分支三周的代码版本重建的代码库索引

当编程代理的语义索引与其工作树发生漂移时,代理会基于已不存在的代码提出自信的主张 —— 而这种失败模式往往隐藏在看似平常的 PR 之中。

insider
ai-engineering
coding-agents
infrastructure
+1
显示第 157–168 篇,共 2312 篇