跳转到主要内容

384 含有标签「ai-agents」

Posts tagged "ai-agents" on TianPan.co.

查看所有标签

·tian

那个基于已被你的上下文剪枝器丢弃的事实进行分支的智能体计划

当上下文剪枝器驱逐了后续计划步骤隐式依赖的工具结果时,智能体会继续针对已不存在的证据进行分支处理——而其追踪记录看起来就像是幻觉。

ai-agents
context-engineering
observability
reliability
·tian

你的客户成功团队无法消化的智能体发布节奏

当 AI 团队通过功能标志每周发布行为变更,而客户成功团队每月才进行一次培训时,这种差距会导致客户信任悄然崩塌。解决方法是建立协调契约,而不是增加更多会议。

insider
ai-agents
customer-success
rollout
+1
·tian

你的故障指挥官无法执行的智能体运行手册

大多数智能体运行手册在白天读起来很顺畅,但在凌晨 2:17 运行时却会被阻塞,因为作者拥有值班 SRE 所不具备的访问权限。联邦化、声明式范围、紧急访问端点和演练才是解决之道。

ai-agents
sre
incident-response
runbooks
+1
·tian

CTO 已拨款但安全团队拒绝让你上线的 AI 功能

能够按时上线的 AI 功能会将安全威胁模型视为需求阶段的“形态约束”,而不是发布前的核对清单。这是一份面向工程领导者的安全左移指南。

insider
ai-security
threat-modeling
engineering-leadership
+2
·tian

用户习以为常的“你确定吗?”确认步骤

AI 智能体中统一的确认提示会导致习惯化:用户会以处理低风险操作的反射动作来点击高风险操作。具备风险意识的摩擦预算、制品预览和量化的点击响应时间可以重建安全层。

insider
ai-agents
ux
safety
+2
·tian

那些被你的智能体“触发并遗忘”的异步工具调用

函数调用将同步和异步工具视为相同的形式。智能体触发了一个任务,收到了一个 ID,随后标记该步骤已完成 —— 而实际工作却从未落地。

insider
ai-agents
tool-calling
mcp
+2
·tian

那个在行动已发出后才生效的预算上限

当紧急停机开关正确触发,但智能体已经订好了机票、发送了邮件并关闭了工单时——为什么以 Token 衡量的预算上限忽略了以“行动”衡量的损失,以及如何将支出与不可逆性解耦。

insider
ai-agents
guardrails
observability
+2
·tian

CPU 调节器决定了你的 Agent 基准测试结果:那个被忽视的 CI 宿主机因素

一次 22% 的 Agent 延迟回归,最终发现竟是 Runner 镜像中的 cpufreq 调节器变更所致 —— 以及为什么 CI 基准测试数值测量的是宿主机,而非你的代码。

ai-agents
benchmarking
ci-cd
performance
·tian

第 1 天授予的权限,到第 90 天也没人收回

智能体身份没有季度审计,没有团队调动,也没有离职事件。第 1 天授予的 IAM 权限变成了第 90 天的遗留产物,而组织架构图则是修复这一问题的真正障碍。

ai-agents
iam
security
non-human-identity
+1
·tian

重新路由回智能体的升级路径

当下游队列开始自行自动化时,`escalate_to_human` 工具就不再是人机回环了。探讨为什么契约的生命周期必须长于消费者。

insider
ai-agents
human-in-the-loop
escalation
+2
·tian

通过了 Schema 验证的虚假工具参数

JSON Schema 只能验证结构,而不能验证事实。当 Agent 虚构出能通过 Schema 检查的引用参数时,重试循环会将这个 Bug 掩盖在看似正常的审计追踪中 —— 本文将介绍缺失的校验层。

ai-agents
tool-calling
llm-safety
json-schema
+1
·tian

你的智能体在链式工具调用中获得的 OAuth 权限范围

OAuth 授权将智能体视为单用途应用,但每一次链式工具调用都扩张了审计日志必须解释的实际权限。那种一次性的授权界面将最坏的情况简化为了单一的决策。

insider
oauth
ai-agents
security
+2
显示第 73–84 篇,共 384 篇