跳转到主要内容

34 含有标签「api-design」

Posts tagged "api-design" on TianPan.co.

查看所有标签

·tian

智能体从未接收到的服务降级信号

调用下游 API 的智能体只能看到其最后一次请求的响应——没有状态页面、没有变更日志、没有警告横幅。本文探讨了为什么智能体会直接陷入服务部分故障(brownouts)和速率限制,以及如何构建侧信道,以传递那些智能体从未被赋予收听方式的运维信号。

llm-agents
api-design
observability
reliability
+1
·tian

你的智能体从未发送的幂等键

当智能体的工具调用超时并重试时,如果没有幂等键,重试可能会导致再次扣费。了解如何让智能体重试变得安全无害,而非充满风险。

ai-agents
idempotency
distributed-systems
reliability
+1
·tian

你的内部 API 在智能体调用的那一天起就变成了公共 API

只有当你能叫出每一个调用者的名字时,内部 API 才真正属于“内部”。一旦接入 LLM 智能体,那些从未白纸黑字写下的契约就会变成负担 —— 以下是你突然需要为之付出的公共 API 维护准则。

insider
ai-agents
api-design
software-architecture
+1
·tian

你在没告诉智能体的情况下修改了工具 Schema

重命名一个字段对你的后端来说只是常规的 API 变更,但对于调用该工具的 LLM 而言,这却是一个无声的破坏性变更。本文探讨如何将工具 Schema 视为拥有两个消费者的版本化契约。

insider
ai-agents
function-calling
api-design
+1
·tian

你无法通过邮件给模型发送变更日志:为什么当调用者是 LLM 时,API 弃用机制会失效

LLM 调用者没有收件箱,没有稳定的身份,也没有义务阅读你的迁移指南。本文将探讨为什么沿用了 15 年的 API 弃用策略在 Agent 面前会失效,以及我们应该如何改进工具 Schema、错误信息和网关。

api-design
llm-agents
deprecation
tool-calling
·tian

流式推理中的海勒姆定律:节奏、停顿和中间 Token 是未成文的契约

当更换模型虽然保留了结构化输出 schema,但改变了 Token 节奏、停顿模式和中间表述时,你实际上发布了一个破坏性变更,违反了一个你从未正式定义的契约。

insider
ai-engineering
llm
streaming
+2
·tian

API 文档即可靠性基础设施:文档如何决定智能体的成功率

当 AI 智能体通过工具调用(tool calling)消费你的 API 时,文档质量就成了直接的可靠性变量。模糊的参数和缺失的错误语义会导致可衡量的失败率,这是任何提示词优化都无法修复的。

insider
ai-engineering
agents
api-design
+1
·tian

Agent 作为用户:当机器人成为你的主力用户时,产品分析为何失效

当 AI agent 成为你产品最重要的消费者时,会话漏斗开始说谎,参与度指标发生倒置,NPS 调研一无所获。本文讲解如何为 agent 消费者埋点,以及为什么你现有的分析仪表盘正在主动误导你。

ai-agents
product-analytics
observability
api-design
·tian

AI 原生 API 设计:构建智能体真正能调用的后端

REST API 是为人工编写的客户端设计的。AI 智能体会以完全可预见的方式破坏它们——幻觉出端点名称、在没有幂等性的情况下重试、忽略稀疏的错误信息。本文介绍如何构建智能体能够可靠调用的后端。

ai-engineering
api-design
agents
system-design
·tian

过时的工具描述是 AI Agent 最大的隐形故障诱因

工具模式(Schemas)会随着时间的推移与其实现发生偏离,使过时的描述成为隐形故障的诱因。以下是防止这种情况的工程规范。

insider
agent-reliability
tool-use
llm-engineering
+1
·tian

提示词弃用合约:为什么措辞清理是一项破坏性更新

对系统提示词进行四个字的修改,就可能破坏那些固定了旧措辞的解析器、裁判和链式代理。提示词是拥有沉默消费者的 API —— 保持其稳定性的纪律与 REST 端点弃用的流程非常相似。

insider
prompt-engineering
llmops
ai-engineering
+1
·tian

智能体流量不等同于人类流量:为两类调用者设计 API

生产环境的 API 现在正在服务两类调用者——人类和智能体。它们具有不同的流量特征、故障模式和安全风险。在 2026 年,将它们混为一谈是所有关于端点不稳定问题调查的根源。

api-design
ai-agents
observability
rate-limiting
+1
显示第 13–24 篇,共 34 篇