·tian
你的网关在 LLM 调用与工具执行之间丢失的 traceparent 请求头
生产环境中的 LLM 智能体技术栈经常在模型调用与工具执行之间丢失 W3C traceparent 请求头,导致原本连贯的用户交互逻辑碎裂成一堆“孤儿追踪”森林 —— 本文将揭示泄漏发生的环节以及如何修复它。
insider
observability
llm-agents
opentelemetry
+2·tian
自研还是购买 AI 网关:锁定你未来 18 个月的关键决策
大多数团队在第一周凭直觉决定是对 AI 网关进行自研还是购买,然后在第九个月感到后悔。这是一个针对在 18 个月后依然至关重要的决策框架。
ai-gateway
llm-infrastructure
build-vs-buy
architecture
·tian
AI 网关:那个没人点名的单点故障 (SPOF)
位于 LLM 供应商前端的这一层薄抽象,已成为你发布的每一项 AI 功能的承重控制平面。本文探讨了为什么它的爆炸半径现在已经超过了任何供应商的中断风险,以及随之而来的 SRE 规范。
ai-gateway
llm-infrastructure
sre
reliability
+1·tian
DLP 应存在于你的 AI 网关中,而非生搬硬套到每个应用里
每个应用独立的脱敏库总会发生偏移、分叉并被绕过。应将 DLP 集中在 LLM 网关,作为强制性的出口检查点,并配备基于路由的策略和可逆保险库令牌。
insider
ai-gateway
dlp
security
+2