跳转到主要内容

990 含有标签「insider」

Posts tagged "insider" on TianPan.co.

查看所有标签

·tian

那些由于模型选择了不同的 Token 而无法复现的 Bug

重现一个 LLM bug 时看到它通过了,并不意味着 bug 消失了 —— 而是意味着你抽取到了不同的样本。当你的工具假设一切都是确定性的,该如何调试一个采样器。

insider
llm
debugging
observability
+1
·tian

对于你的 AI 功能,“自研还是购买” 是个错误的问题

一个 AI 功能是一个包含五个层级的技术栈,而不是一件可以简单制作或购买的单一事物。真正重要的决策是:哪个层级能累积你的差异化优势,而哪个层级又是竞争对手可以轻易买到的。

insider
ai-engineering
architecture
strategy
+1
·tian

CFO 在电子表格上看不见的评测预算

评测投资像测试套件一样具有复利效应,但它在账面上表现为没有收入项的成本 —— 因此在与带有演示的新功能竞争优先级时总是落败。以下是如何让其反事实价值在财务部门眼中变得清晰可见。

insider
evals
ai-engineering
engineering-leadership
+1
·tian

MCP Server 蔓延:无人监管的无边界工具表面

每个团队都在接入另一个 MCP Server,Agent 的工具表面在没有负责人、没有预算的情况下不断扩大,且每一轮对话都要支付 Token 税。本文探讨这种蔓延如何破坏选择准确性,以及什么样的策展纪律可以修复它。

insider
mcp
ai-agents
tool-calling
+2
·tian

故障复盘:根本原因竟是一个无人负责的提示词

一次生产事故追溯到了几周前修改的一个系统提示词(Prompt),由于当时没有 PR、没有审核人、也没有负责人。本文探讨了为什么提示词总是能绕过变更管理,以及如何在不降低迭代速度的前提下,将它们重新纳入审核流程。

insider
prompt-engineering
llmops
incident-response
+2
·tian

你从未构建过的智能体反馈闭环

每一个点踩、每一次无声的放弃、每一次重新表述的问题,都是一个免费的带标签失败案例 —— 而大多数团队却将其丢弃。本文介绍如何构建从用户信号到分诊失败再到永久评估案例的流水线。

insider
ai-engineering
llm-evaluation
observability
+1
·tian

那个本该计算却随口编造数字的智能体

LLM 智能体往往会随口说出一个看似合理的数字,而不是去进行计算,流畅的文字掩盖了缺失的工具调用。本文探讨如何强制使用工具并为每一个数据附上出处。

insider
ai-agents
llm
hallucination
+2
·tian

为什么你的智能体需要只读副本:智能体记忆的读写分离

智能体记忆通常是一个存储承担两份工作。将其视为没有副本的单主数据库,并实现读写分离,可以解决过时的上下文、写入过程中的损坏以及随记忆增长而增加的延迟。

insider
ai-agents
memory
architecture
+1
·tian

智能体精准优化了你衡量的指标:代理循环中的古德哈特定律

代理循环将古德哈特定律压缩进单次运行中:将代理指标交给一个强大的优化器,它就会利用其中的间隙进行博弈。本文介绍了失效分类学以及如何对其进行约束。

insider
ai-agents
llm
agent-architecture
+2
·tian

难以调试的庞大 Agent 追踪:当记录了一切却读不懂任何内容时

记录完整的 Agent 追踪会让故障信息变得完整,但却难以阅读。真正的可观测性瓶颈在于:在事故冷却前,人类是否能找到那步至关重要的操作。

insider
ai-agents
observability
debugging
+1
·tian

为什么你不能用单一数字来估算 AI 功能的预算

AI 智能体的单次请求成本是一个肥尾分布,而非一个固定数字。本文探讨了为什么平均单位成本会使预测和定价失效,以及你应该报告哪些指标 —— p50 、 p99 、 尾部支出和多租户成本归属。

insider
ai-engineering
finops
llm-cost
+2
·tian

无人清理的审批队列

风险分层门控将危险的智能体操作路由到人工队列 —— 但一个没有负责人、没有 SLO 且没有超时策略的队列,只是另一种更慢的失败方式。本文探讨如何像管理真实的基础设施一样运营人工闸口。

insider
ai-agents
human-in-the-loop
observability
+1
显示第 229–240 篇,共 990 篇