跳转到主要内容

209 含有标签「agents」

Posts tagged "agents" on TianPan.co.

查看所有标签

·tian

Agent 的写操作侧:在行动层设计可逆性

AI Agent 的每一次写操作都是一个潜在的事故。如何在 Agent 删除无法找回的数据之前,为行动层设计可逆性。

insider
ai-engineering
agents
distributed-systems
+1
·tian

AI 副驾驶 vs. AI 飞行员:基于证据的产品决策框架

具体的已部署系统信号——任务完成率、错误恢复时间、用户覆盖频率、边缘案例暴露——决定了 AI 应该是建议性的还是自主性的,以及错误的默认选择如何侵蚀那些难以挽回的用户信任。

insider
ai
product
engineering
+2
·tian

API 文档即可靠性基础设施:文档如何决定智能体的成功率

当 AI 智能体通过工具调用(tool calling)消费你的 API 时,文档质量就成了直接的可靠性变量。模糊的参数和缺失的错误语义会导致可衡量的失败率,这是任何提示词优化都无法修复的。

insider
ai-engineering
agents
api-design
+1
·tian

大多数团队在无意中做出的上下文格式选择:JSON vs Markdown vs 纯文本

在 LLM 上下文中选择 JSON、Markdown 还是纯文本并非风格偏好,它决定了推理模式、准确性和成本。本文将介绍如何深思熟虑地做出这一决策。

llm
agents
prompt-engineering
ai-engineering
·tian

LLM 自我调试:解释何时是信号,何时是谎言

LLM 在被问到失败原因时会给出流畅的回答——但这个解释和实际的失败机制往往是两回事。本文是一份实践指南,帮助你在采取行动之前分辨两者的区别。

llm
debugging
agents
rag
·tian

MCP 环境权限:会话级权限创造的工具链接攻击面

MCP 的会话级权限模型在授权时就赋予 Agent 访问整个工具表面的权限。本文解析这是如何产生工具链接攻击路径的,以及最小权限模式在实践中的真实形态。

security
mcp
agents
authorization
·tian

工具调用收敛:设计知道何时停止的智能体

在没有停止条件的情况下循环执行工具调用的智能体会白白消耗 token。本文探讨如何从工程角度判断信息何时已经充足。

ai-engineering
agents
llm
production
·tian

智能体记忆污染:一次错误工具响应如何毒害整个会话

一次事实错误或恶意构造的工具响应,可以污染 LLM 智能体整个会话的推理。本文分析失败的解剖结构,并给出真正有效的防御措施。

ai-engineering
agents
reliability
memory
·tian

智能体系统就是分布式系统:在遭遇惨痛教训前应用微服务经验

当今困扰多智能体 AI 系统的失败模式,其实是伪装成新问题的 2015 年分布式系统老问题。那些在构建智能体之前就内化了微服务经验的团队,正在交付更可靠的系统。

ai-engineering
agents
distributed-systems
reliability
·tian

AI 原生 API 设计:构建智能体真正能调用的后端

REST API 是为人工编写的客户端设计的。AI 智能体会以完全可预见的方式破坏它们——幻觉出端点名称、在没有幂等性的情况下重试、忽略稀疏的错误信息。本文介绍如何构建智能体能够可靠调用的后端。

ai-engineering
api-design
agents
system-design
·tian

AI 原生日志:捕获决策过程,而不仅仅是 I/O

传统日志告诉你 LLM 系统做了什么,AI 原生日志告诉你为什么——捕获决策逻辑、被拒绝的备选方案以及能够解释生产故障的置信度信号。

llm
observability
agents
debugging
+1
·tian

AI 如同永久实习生:企业工作流中的角色-任务鸿沟

企业工作流中 AI 工具的停滞,并非模型质量问题,而是因为团队将其部署为它结构上无法胜任的组织角色。本文解析这一鸿沟,并提供设计规避方案。

insider
ai
enterprise
agents
+2
显示第 73–84 篇,共 209 篇