跳转到主要内容

65 含有标签「distributed-systems」

Posts tagged "distributed-systems" on TianPan.co.

查看所有标签

·tian

你的定时 Agent 有四个时钟,而你信任的是错误的那一个

通过 cron 触发的 AI Agent 继承了四个时钟 —— 调度器、工作节点、模型和工具 —— 而大多数生产系统都在默默地信任错误的那一个。本文将带你了解这些失败模式以及防止这些问题的‘时间交接合约’。

insider
ai-agents
scheduling
reliability
+2
·tian

你的 Agent 端点是一个伪装成函数调用的分布式系统

一个 `await agent.run()` 看起来像是一个本地函数,但实际上隐藏了一个远程的、可能部分失效的分布式系统。本文将探讨 Agent 代码所需的超时、重试、幂等性和熔断机制。

ai-agents
distributed-systems
reliability
llm
+1
·tian

你的重试逻辑正在给 Agent 传达错误的教训

为不稳定的网络设计的重试策略假设调用者是正确的。但 Agent 让调用者变成了不可靠的部分,盲目的重试会悄悄地将真实的 Bug 洗白成绿色的勾。

ai-agents
reliability
retries
observability
+1
·tian

你的智能体从未发送的幂等键

当智能体的工具调用超时并重试时,如果没有幂等键,重试可能会导致再次扣费。了解如何让智能体重试变得安全无害,而非充满风险。

ai-agents
idempotency
distributed-systems
reliability
+1
·tian

当两个 Agent 共享一个工具:多 Agent 系统中的并发 Bug

启动第二个 Agent 会让你瞬间变成一名分布式系统工程师。竞态条件、更新丢失和脏读会以静默损坏的形式回归 —— 以及如何设计工具层来阻止它们。

multi-agent
concurrency
ai-engineering
distributed-systems
+1
·tian

工具延迟尾部:为什么 p99 重塑了智能体架构而 p50 掩盖了问题

基于单个工具中位数构建的智能体延迟预算在生产环境中会悄无声息地失效:经过 7 个步骤后,尾部延迟开始占据主导地位,导致尽管单个工具的仪表盘显示为绿色,用户却仍在等待。本文将深入探讨为什么 p99 会重塑智能体架构,相关的工程规范是什么样的,以及哪些具有 40 年历史的分布式系统技术可以直接应用。

insider
ai-agents
latency
distributed-systems
+2
·tian

解读智能体堆栈跟踪:在模型、工具与 Harness 之间定位故障

大多数智能体漏洞存在于模型、工具与 Harness 的结合部——单层日志无法识别它们。构建统一追踪、OpenTelemetry GenAI span 表面、因果假设面板以及复现包络,像对待分布式系统一样调试你的智能体。

agent-observability
debugging
tracing
llm-ops
+1
·tian

Agent 的写操作侧:在行动层设计可逆性

AI Agent 的每一次写操作都是一个潜在的事故。如何在 Agent 删除无法找回的数据之前,为行动层设计可逆性。

insider
ai-engineering
agents
distributed-systems
+1
·tian

智能体系统就是分布式系统:在遭遇惨痛教训前应用微服务经验

当今困扰多智能体 AI 系统的失败模式,其实是伪装成新问题的 2015 年分布式系统老问题。那些在构建智能体之前就内化了微服务经验的团队,正在交付更可靠的系统。

ai-engineering
agents
distributed-systems
reliability
·tian

智能体的死信:当没有智能体能完成任务时该怎么办

消息队列通过死信队列解决了消息卡顿的问题。智能体系统也面临同样的问题,但其失败模式更加丰富 —— 本文将介绍如何适配这一模式。

insider
ai-agents
reliability
production-ai
+1
·tian

向量数据库分片:HNSW为何在分区边界失效及应对策略

HNSW图在分区方式上存在特殊阻力,会在大规模场景下导致无声的召回率下降。本文深入探讨其失效原因、实际中召回率损失的表现,以及团队在超出单节点容量后用于恢复检索精度的运营模式。

insider
vector-database
embeddings
distributed-systems
+1
·tian

一致性鸿沟:为什么并行 LLM 调用会相互矛盾以及如何修复它

当智能体针对同一实体发起多个并发 LLM 调用时,它们经常会得出不兼容的结论。本文介绍了防止此类问题的架构模式——实体规范化、缓存预热、基于证据的对账以及 Schema 强制执行。

ai-engineering
multi-agent
distributed-systems
llm
显示第 13–24 篇,共 65 篇