跳转到主要内容

990 含有标签「insider」

Posts tagged "insider" on TianPan.co.

查看所有标签

·tian

爆炸半径即权限模型:按‘能破坏什么’而非‘能读取什么’来隔离智能体沙箱

Replit 智能体在删除生产数据库之前执行的每一条命令都经过了授权 —— 权限模型回答了错误的问题。为什么智能体安全取决于执行环境:作用域令牌、临时分支、出站流量白名单、支出上限,以及设置在爆炸半径边界上的审批关卡。

insider
agent-security
llm-agents
ai-engineering
+2
·tian

当你最大的客户端是 Prompt 时,如何弃用 API

AI 智能体不会阅读更新日志 —— 它们对你 API 的认知被冻结在 Prompt、工具 schema 和训练数据中。本文将探讨为什么关闭 v1 版本会导致重试风暴而非迁移,以及如何通过适配器、Sunset 响应头和智能体可读的错误信息来解决这一问题。

insider
api-design
ai-agents
versioning
+1
·tian

Agent 的演练日:排演那些无法复现的故障

混沌工程假设故障是可重现的;但 Agent 系统的故障往往通过从不重复的随机路径发生。演练日(Game days)——包括工具故障注入、模型降级演练、上下文污染场景以及升级反馈消防演练——能建立运维人员的肌肉记忆,并暴露重现测试永远无法发现的追踪工具缺陷。

insider
ai-agents
reliability
sre
+2
·tian

GraphQL 终于找到了它的客户端,而且它不是人类

AI Agent 是第一批真正能够自主构建数据需求的客户端——这正是 GraphQL 最初设计的初衷。但 Agent 也放大了导致 GraphQL 在人类客户端竞争中落败的所有弱点。目前行之有效的模式是:Agent 在开发阶段构建查询,由人类进行审核并将其固定为持久化操作。

insider
ai-agents
graphql
api-design
+2
·tian

让 Agent 先接警:AI 故障响应的信任阶梯

故障发生的最初 15 分钟通常是机械化的,Agent 可以在你解锁笔记本电脑前就完成这些工作。这套由叙述者、建议者、受控执行者、受限自动修复者组成的四层信任阶梯,配合基于证据的晋升和有范围的降级机制,比在经历一个糟糕的夜晚后彻底禁用自动化要明智得多。

insider
incident-response
ai-agents
sre
+2
·tian

无代码是一场赌注,赌代码成本将维持在高位。这场赌局刚刚输了

无代码平台曾以昂贵的工程师成本作为定价基准。现在,AI 智能体构建和维护真实应用的成本已经低于一个席位许可费,这种抽象层反而成了上限 —— 而幸存者正在转型,改为销售受治理的数据访问权限。

insider
no-code
ai-agents
internal-tools
+1
·tian

Notebook 对编程智能体来说是“敌对领域”

隐藏的内核状态破坏了编程智能体所做出的每一项假设:文件并非程序本身、输出可能带有欺骗性,且重新运行单元格是不安全的。本文探讨了为什么“重启并运行所有单元格”是智能体唯一能验证的契约,纯函数式单元格如何让 Notebook 对智能体更安全,以及 Notebook 工具现在欠其最新用户(AI 智能体)的功能。

insider
jupyter
ai-agents
notebooks
+1
·tian

绩效评估衡量的是舰队,而不是工程师

PR 数量和速度现在衡量的是你对智能体的驾驭能力,而不是你的工程判断力。当 AI 编写了一半的代码变更时,绩效校准、评估指标和职业阶梯必须如何随之改变。

insider
ai-agents
engineering-management
developer-productivity
+1
·tian

学习型系统的任意时间点恢复:那个没人做的备份

你的数据库有快照,代码有 git,但你的智能体大脑却分散在五个独立版本化的存储库中。为什么对于大多数智能体技术栈来说,“恢复到昨天下午 3 点”是一个无法定义的概念,以及存储工程中的一致性组(consistency-group)规范如何解决这一问题。

insider
ai-agents
reliability
infrastructure
+1
·tian

Agent 的端口与适配器架构:为什么你的工具 Schema 应该比供应商更长寿

供应商迁移往往在工具层而非提示词层崩溃。将工具 Schema 视为你拥有的端口 —— 为每个供应商和后端提供轻量级适配器 —— 你将免费获得确定性的 Agent 测试。

insider
ai-agents
architecture
tool-design
+1
·tian

Postel 法则在工具边界是一种负担

宽容的解析器通过强制转换“差一点就对”的工具调用,会误导 AI Agent 认为草率的调用也是可行的,从而在循环中累积错误。带有清晰示例且包含错误的严格验证是一种循环内训练信号 —— 本文将探讨何时应保持严格,以及 Postel 法则在何处依然适用。

insider
ai-agents
tool-design
api-design
+1
·tian

为权重签名:模型是供应链忽略的可执行文件

你的 CI 为容器签名并锁定包哈希,但决定产品行为的模型权重却在未经校验的情况下加载。pickle 后门、受污染的检查点(checkpoints)和开放的存储桶已成为被忽视的攻击面 —— 了解 OMS 签名、safetensors 和摘要锁定(digest pinning)如何填补这些安全漏洞。

insider
ai-security
supply-chain
mlops
+1
显示第 25–36 篇,共 990 篇