跳转到主要内容

34 含有标签「api-design」

Posts tagged "api-design" on TianPan.co.

查看所有标签

·tian

对话状态不仅仅是一个聊天数组:面向生产环境的多轮会话设计

“聊天历史即数组”的抽象在生产规模下会以可预见的方式失效。这里有一种真正能扛住压力的会话设计方案。

ai-engineering
agent-architecture
api-design
production-ai
·tian

AI Agent 的 ORM 阻抗失配:为什么数据层才是真正的瓶颈

ORM 和 REST API 是为人类交互模式设计的 —— 单实体读取、延迟加载和会话范围内的事务。而 AI Agent 根本不按这种方式运作。本文将探讨为什么你的数据层正在悄悄扼杀 Agent 的性能,以及你该如何应对。

ai-agents
data-engineering
orm
api-design
+1
·tian

AI 原生 API 设计:当后端开始概率性思维,REST 为何失效

REST 是为快速、确定性后端而生的。LLM 服务速度慢、具有概率性且任务耗时长——而真正在生产环境中经得住考验的接口模式,与传统 HTTP API 设计截然不同。

insider
api-design
llm
streaming
+1
·tian

AI 驱动端点的 API 设计:为不可预测性建立版本控制

当你升级 API 背后的 AI 模型时,虽然 JSON 架构保持不变,但语气、拒绝行为和推理风格都可能发生变化。本文介绍了快照固定、结构化输出、行为包络和阴影部署等模式,这些模式能够确保 AI 端点对调用者保持稳定。

api-design
llm
versioning
mlops
·tian

AI 驱动型 API 的行为 SLA:为非确定性输出编写协议

当你的 API 封装了 LLM 时,传统的 SLA 就会失效。学习如何定义行为协议 —— 包括格式保证、拒绝率、延迟 p95、幻觉预算 —— 以及如何在不破坏用户体验的情况下,对行为变更进行版本管理和沟通。

ai-engineering
api-design
llm
reliability
+1
·tian

语义化版本控制对 AI 智能体意味着什么

当你的服务具有非确定性时,传统的语义化版本控制就会失效。本文介绍如何对 AI 智能体进行版本管理,以避免下游消费者遭受静默破坏。

ai-engineering
agents
api-design
testing
+1
·tian

记录概率性功能:模型行为与开发者引导之间缺失的一层

由 AI 驱动的功能没有稳定的输入输出契约可供记录。本文介绍了如何为每次表现都不同的功能编写 API 文档、变更日志和运维手册 —— 利用行为包络(behavioral envelopes)、版本控制纪律和可观测性作为动态文档。

llm
documentation
ai-engineering
api-design
·tian

企业 API 阻抗失配:为什么你的 AI Agent 在做任何有用的事情之前就浪费了 60% 的 Token

企业 API 通过冗长的格式、语义不匹配和暴露实现细节的工具 schema 消耗 AI agent 的 token 预算——以下是面向结果的适配器、动态工具集和语义元数据层如何解决这一问题。

insider
ai-agents
enterprise-integration
api-design
+1
·tian

LLM 输出即 API 契约:为下游消费者版本化结构化响应

当多个服务依赖 LLM 结构化输出时,模型升级会悄无声息地破坏下游消费者。本文解析模式漂移与行为漂移的成因,以及在部署前捕获破坏性变更的版本化与契约测试模式。

insider
llm
production-ai
api-design
+3
·tian

Agent 友好型 API:当 AI 成为客户端时,后端工程师常犯的错误

当 AI Agent 成为客户端时,大多数 REST API 都会在无声中崩溃 —— 模糊的错误会导致重试循环,偏移分页会破坏遍历,而基于请求数的速率限制在多 Agent 协作下会失效。本文将介绍需要修复的问题及其重要性。

insider
api-design
ai-agents
backend
+1
显示第 25–34 篇,共 34 篇
上一页3 / 3