跳转到主要内容

24 含有标签「tool-calling」

Posts tagged "tool-calling" on TianPan.co.

查看所有标签

·tian

你的智能体忘记发送的幂等键

智能体重试带有副作用的工具调用时,其方式与重试读取操作完全相同 —— 这会导致静默地重复扣款和重复发送邮件。本文将探讨幂等性究竟应该放在哪里,以及为什么提示词(Prompt)不是实现它的正确位置。

ai-agents
reliability
idempotency
tool-calling
+1
·tian

对你的工具接收的内容保持严格:波斯塔尔法则在智能体系统中失效

宽容地处理格式错误的工具参数看似健壮,但会悄无声息地将 Schema 违规转化为评估无法发现的数据损坏。严格拒绝并提供模型可读的错误反馈,才是让智能体循环具备自纠错能力的关键。

ai-agents
tool-calling
reliability
api-design
·tian

你的工具 Schema 验证的是类型,而非单位

一个接收“分”为单位的退款工具往往会收到以“元”为单位的数值,因为 JSON Schema 验证的是结构而非含义。本文探讨了单位混淆是如何绕过类型、Schema 和评估的,以及如何通过命名、边界断言和评估模式来防止产生 100 倍金额的账单。

ai-agents
tool-calling
llm-engineering
reliability
·tian

用户关闭对话后才完成的异步工具调用

长时间运行的工具调用往往比触发它们的聊天会话存续时间更长。当你关闭标签页时,结果仍然会返回 —— 但面对的却是一个已不存在的对话、错误的会话,或者根本无处投递。

ai-agents
tool-calling
async
distributed-systems
+1
·tian

法律免责声明如何从答案泄露到工具调用参数中

添加到你的系统提示词中的安全免责声明并不仅仅停留在面向用户的回复中。它还会渗透进模型生成的每一个工具调用参数里 —— 并进入这些调用所触发的下游系统中。

llm-agents
prompt-engineering
compliance
tool-calling
+1
·tian

一个工具请求的 OAuth 作用域,为何被其他所有工具悄悄继承了?

探讨基于提供商的 OAuth 令牌存储如何静默地将所有工具的作用域并集授予每个工具,以及如何通过改进存储键结构来重新划定设计预期的权限边界。

oauth
ai-agents
security
authorization
+1
·tian

与工具本身脱节的工具描述

当工具的 JSON Schema 和其文本描述存放在不同位置时,它们会各自独立演进并产生偏差 —— 导致模型遵循了描述中的错误,而这些错误本可以通过 Schema 捕获。本文将探讨为什么工具描述是你有效系统提示词的一部分,以及如何确保它们的真实性。

insider
llm-tools
agent-engineering
tool-calling
+1
·tian

那些被你的智能体“触发并遗忘”的异步工具调用

函数调用将同步和异步工具视为相同的形式。智能体触发了一个任务,收到了一个 ID,随后标记该步骤已完成 —— 而实际工作却从未落地。

insider
ai-agents
tool-calling
mcp
+2
·tian

通过了 Schema 验证的虚假工具参数

JSON Schema 只能验证结构,而不能验证事实。当 Agent 虚构出能通过 Schema 检查的引用参数时,重试循环会将这个 Bug 掩盖在看似正常的审计追踪中 —— 本文将介绍缺失的校验层。

ai-agents
tool-calling
llm-safety
json-schema
+1
·tian

填充式工具调用:当智能体在表演勤奋而不是真正干活

生产环境中的智能体不断发出对答案毫无影响的工具调用——烧掉 token、拖慢延迟、损害准确率。本文讲清楚填充式调用是如何从训练中长出来的、它真正的成本是多少,以及如何用反事实测量和调用预算把它从工作流里剔除出去。

insider
ai-agents
llm
tool-calling
+2
·tian

MCP Server 蔓延:无人监管的无边界工具表面

每个团队都在接入另一个 MCP Server,Agent 的工具表面在没有负责人、没有预算的情况下不断扩大,且每一轮对话都要支付 Token 税。本文探讨这种蔓延如何破坏选择准确性,以及什么样的策展纪律可以修复它。

insider
mcp
ai-agents
tool-calling
+2
·tian

智能体从未接收到的服务降级信号

调用下游 API 的智能体只能看到其最后一次请求的响应——没有状态页面、没有变更日志、没有警告横幅。本文探讨了为什么智能体会直接陷入服务部分故障(brownouts)和速率限制,以及如何构建侧信道,以传递那些智能体从未被赋予收听方式的运维信号。

llm-agents
api-design
observability
reliability
+1
显示第 1–12 篇,共 24 篇
1 / 2下一页