跳转到主要内容

990 含有标签「insider」

TianPan.co 上标记为“insider”的文章。

查看所有标签

·tian

智能体记忆 Schema 演进:Protobuf 的困难模式

智能体记忆拥有两种 Schema —— 存储层和模型上下文 —— 而其中只有一种可以通过 SQL 脚本进行迁移。本文将探讨为什么 Protobuf 的“仅增量”准则是正确的起点,以及在此基础上影子写入方案还需要哪些补充。

insider
ai-agents
memory
schema-evolution
+2
·tian

静默成功:当你的 Agent 宣告完成但实际上什么也没发生

Agent 往往因为喋喋不休而失败。自信的文字掩盖了工具错误,而写入操作从未真正提交。解决方案是:将模型的声明降级为假设,将工具响应和操作后探测提升为权威信号,并衡量效果落地而非单次对话的成功。

insider
ai-agents
observability
reliability
+1
·tian

智能体在凌晨 3 点呼叫我:触达人类工具的爆炸半径策略

授予智能体 PagerDuty 访问权限是一项会影响产品团队的基础设施决策。这是一个针对触达人类工具的控制平面 —— 包含速率限制、演练(dry-run)、退出机制(off-ramps)—— 且这些是 Prompt 无法强制执行的。

insider
ai-agents
mcp
on-call
+2
·tian

你的 AI 聊天记录即证据:法律保存指令下的 LLM 产品保留设计

聊天日志属于 ESI。你需要设计四层保留机制,在真正需要之前建立法律保存注册表,并在数据摄入时标记出处 —— 否则你将在电子取证过程中为补全这些架构付出惨重代价。

insider
ai-infrastructure
compliance
data-governance
+1
·tian

异步智能体需要收件箱,而非聊天框

当智能体的运行时间超过 30 秒时,聊天界面的用户体验就会崩坏。收件箱这一原语——持久化的运行 ID、完成通知以及“结果重于过程”的架构——才是长程智能体真正需要的产品形态。

insider
agent-ux
async-agents
product-design
+1
·tian

级联路由的可靠性陷阱:当成本优化悄然摧毁你的 p95 延迟

级联路由能够显著降低 LLM 开销 —— 但同时也会悄然降低尾部延迟、污染你的训练数据并使 A/B 测试失效。在成本收益变成可靠性账单之前,以下是你需要进行观测的指标。

insider
llm-routing
observability
reliability
+1
·tian

你的思维链是一个故事,而非审计日志

推理追踪读起来像审计证据,但它们仅描述了意图——而非实际执行的内容。本文探讨了为什么合规性需要运行时生成的边车操作日志。

insider
ai-agents
observability
compliance
+2
·tian

智能体无法察觉的死锁:生成计划中的循环工具依赖

LLM 编写的智能体计划通常包含经典死锁检测无法发现的隐式循环。通过静态计划图处理结合运行时看门狗,可以在 Token 耗尽前捕获这些问题。

insider
ai-agents
llm
observability
+2
·tian

你的 Prompt 时钟是正确性边界,而非日志字段

LLM Agent 没有时钟 —— 它们信任你注入的任何时间戳。将 Prompt 中的时间视为正确性契约,而非日志字段,否则你将不断遇到“周二还是周三”的 Bug。

insider
ai-agents
temporal-reasoning
prompt-engineering
+1
·tian

对话分支作为一等公民:为什么线性线程迫使用户不断杀死并重启对话

线性聊天线程迫使用户通过“杀死并重启”来探索不同方案。本文探讨了写时分支(copy-on-branch)状态模型、DAG 存储以及让发散成为原生功能而非补丁的 UI 模式。

insider
agent-ux
conversation-design
llm-state
+1
·tian

演示循环偏见:你的开发流程如何悄然演变为针对“有魅力的失败”进行优化

演示往往会选择流畅、自信的输出,而非正确的输出。本文将探讨 LLM 开发循环如何悄然滑向“有魅力的失败”,以及修复这一问题的评估工作流。

insider
llm-evals
ai-engineering
product
+2
·tian

Embedding 模型轮换是数据库迁移,而非代码部署

更换 Embedding 模型并非简单的配置更改——新向量存在于与旧向量不同的流形中,因此这本质上是一次完整的重新 Embedding 加上一次伪装成部署的切换。这是一份包含影子索引、双读一致性指标、分阶段流量切换以及团队经常遗漏预算的运营成本的迁移指南。

insider
rag
embeddings
vector-database
+2
显示第 601–612 篇,共 990 篇