跳转到主要内容

34 含有标签「api-design」

Posts tagged "api-design" on TianPan.co.

查看所有标签

·tian

你的智能体读不懂的弃用通知

智能体不会阅读更新日志或 Sunset 响应头。本文将探讨为什么工具弃用对大语言模型智能体来说会静默失败,以及如何对工具契约进行版本化,从而让模型能够真正接收到通知。

insider
ai-agents
api-design
tooling
+2
·tian

对你的工具接收的内容保持严格:波斯塔尔法则在智能体系统中失效

宽容地处理格式错误的工具参数看似健壮,但会悄无声息地将 Schema 违规转化为评估无法发现的数据损坏。严格拒绝并提供模型可读的错误反馈,才是让智能体循环具备自纠错能力的关键。

ai-agents
tool-calling
reliability
api-design
·tian

当你最大的客户端是 Prompt 时,如何弃用 API

AI 智能体不会阅读更新日志 —— 它们对你 API 的认知被冻结在 Prompt、工具 schema 和训练数据中。本文将探讨为什么关闭 v1 版本会导致重试风暴而非迁移,以及如何通过适配器、Sunset 响应头和智能体可读的错误信息来解决这一问题。

insider
api-design
ai-agents
versioning
+1
·tian

GraphQL 终于找到了它的客户端,而且它不是人类

AI Agent 是第一批真正能够自主构建数据需求的客户端——这正是 GraphQL 最初设计的初衷。但 Agent 也放大了导致 GraphQL 在人类客户端竞争中落败的所有弱点。目前行之有效的模式是:Agent 在开发阶段构建查询,由人类进行审核并将其固定为持久化操作。

insider
ai-agents
graphql
api-design
+2
·tian

Postel 法则在工具边界是一种负担

宽容的解析器通过强制转换“差一点就对”的工具调用,会误导 AI Agent 认为草率的调用也是可行的,从而在循环中累积错误。带有清晰示例且包含错误的严格验证是一种循环内训练信号 —— 本文将探讨何时应保持严格,以及 Postel 法则在何处依然适用。

insider
ai-agents
tool-design
api-design
+1
·tian

你的错误信息现在成了 Prompt:为 AI Agent 编写失败输出

AI Agent 阅读你的堆栈跟踪和 CLI 错误信息的频率远高于人类 —— 并且它们会将这些信息当作指令来执行。如何编写能让重试循环趋于收敛的错误信息,而不是让成群的 Agent 陷入失控的螺旋。

ai-engineering
agents
developer-tools
api-design
·tian

你的内部平台的新首要客户是 AI Agent

AI Agent 正在成为内部 API 的主要消费者,且它们出错的方式与人类完全不同。如何为那些无法阅读文档或提交工单的客户设计工具。

insider
ai-agents
platform-engineering
developer-experience
+2
·tian

供应商上调 max_tokens 默认值,导致你的尾部响应长度翻倍

一家 LLM 供应商悄悄调高了 max_tokens 的默认值,导致你的 p99 输出长度在一夜之间翻了一倍。那些你没有显式传递的参数,往往就是背后发生变化的配置 —— 本文将介绍如何停止继承那些你无法控制的默认设置。

insider
llm
api-design
production
+2
·tian

导致你的智能体重试机制失效两周的工具 Schema 迁移

为期六周的弃用窗口对每一位人类消费者都运作完美,却让智能体静默失效了整整十四天。本文探讨了重试预算、解析错误和优雅降级为何会交织成一场无人报警的故障,以及捕获这些问题的关键指标。

ai-agents
observability
api-design
reliability
·tian

你的代码从未检查过的 Finish Reason

每个推理 API 在返回文本的同时都会返回一个停止信号。忽略它与忽略 HTTP 状态码的错误本质相同 —— 而且你的仪表盘无法察觉它所导致的失败。

llm
observability
api-design
reliability
·tian

你为人类设置的速率限制,AI 智能体三秒钟就会让其饱和

为人类节奏流量校准的速率限制,在智能体首次将规划循环指向端点时就会崩溃。应将限制视为一种拆分契约 —— 吞吐量预算加上滥用上限 —— 并基于租户和工作负载类别进行挂钩。

rate-limiting
ai-agents
api-design
multi-tenant
+1
·tian

你的智能体把指针当成了值:工具输出里的引用 vs 值

当工具的返回值是 ID、路径或 URL 时,它实际上是在让智能体去做一次解引用。但模型何时解析、何时直接"假装已解析"地继续往下编,这套策略是隐式的、不一致的、悄无声息地出错的。把这层间接寻址显式地写进类型里。

insider
ai-engineering
agents
tool-use
+2
显示第 1–12 篇,共 34 篇
1 / 3下一页