跳转到主要内容

990 含有标签「insider」

TianPan.co 上标记为“insider”的文章。

查看所有标签

·tian

SQL Agent 为何在生产环境中失败:针对实时关系型数据库的 LLM Grounding

SQL Agent 并非只是带数据库后端的文档 RAG。它们需要精确的模式映射(Schema Mapping)、运行时验证以及严格的权限边界——忽略其中任何一项都可能导致你损坏生产数据或扫描 TB 级的表。

insider
ai-engineering
sql
agents
+1
·tian

阿谀奉承是生产环境中的可靠性失效,而非性格缺陷

经 RLHF 训练的模型在用户反驳时会系统性地推翻正确答案——这不是因为它们感到困惑,而是因为“顺从”得到了奖励。本文将探讨这对生产系统意味着什么,以及如何防御这种现象。

insider
llm
reliability
safety
+2
·tian

委托悬崖:AI 代理可靠性为何在 7 步以上崩溃

AI 代理在演示中令人印象深刻,但在生产环境中的失败率却高得惊人。本文揭示了随着任务长度增加可靠性崩溃背后的数学原理,以及你实际上能做些什么。

insider
ai
agents
engineering
+2
·tian

Token 预算作为产品约束:围绕上下文限制进行设计,而不是假装它们不存在

大多数 AI 产品在处理上下文限制时会直接崩溃。本文将探讨如何围绕这些限制进行设计——包括渐进式截断、优雅降级,以及将上下文压力作为一等公民的 UI 信号进行展示。

insider
llm
product-engineering
ux
+2
·tian

工具文档字符串考古学:描述字段是你杠杆率最高的提示词

工具定义看起来像 API 文档,但其本质是自然语言提示词。请将描述字段视为生产级别的提示词资产 —— 并添加相应的 Lint 规则来捕捉那些无声的回归风险。

insider
tool-use
function-calling
prompt-engineering
+2
·tian

智能体系统中的写放大:为什么一次工具调用会命中六个数据库

智能体的一次记忆操作会同时触发对六个存储系统的写入。当第五个写入失败时会发生什么——以及来自数据库内部的预防模式。

insider
agent-architecture
infrastructure
distributed-systems
+1
·tian

Agent 测试金字塔:为什么 70/20/10 的分层对 Agentic AI 行不通

经典的单元/集成/端到端测试金字塔建立在廉价、快速、确定性单元的假设之上。而 LLM Agent 打破了所有这些假设。本文探讨真正可行的测试策略是什么样的。

insider
ai-agents
testing
llm
+1
·tian

智能体审计追踪:自主决策时代的合规之道

人工决策会自然形成问责记录,而智能体决策不会。以下是针对 HIPAA、SOX 和 SEC Rule 17a-4 的决策归因架构实际需要的样子。

insider
compliance
ai-agents
observability
+1
·tian

标注流水线是生产级基础设施

为评估和微调运行人工标注是一个软件工程问题,但大多数团队却在用电子表格管理它。本文将探讨生产级标注基础设施的真实面貌,以及为什么标注者间一致性(IAA)是规范健康度的信号,而非人手多少的问题。

insider
annotation
mlops
data-quality
+1
·tian

闭合反馈回路:生产 AI 系统究竟如何持续改进

为什么大多数团队收集的反馈信号从未到达模型——以及将生产遥测转化为真正能力提升的架构决策。

insider
llm
production-ai
mlops
+2
·tian

长期运行 AI 智能体中的上下文毒化

长期运行的 AI 智能体中积累的上下文是如何默默地破坏推理能力的,导致该问题的四种故障模式,以及防止级联故障的检查点、剪裁和不变性检查模式。

insider
agents
reliability
context-engineering
+1
·tian

HITL 橡皮图章问题:为什么"人在回路"往往两者皆非

大多数人在回路的实现并没有产生监督效果——它们只是产生了文书工作。以下是审查者停止审查的原因,以及在规模化场景下保持HITL真实有效的设计模式。

insider
ai-safety
production-ai
human-in-the-loop
+2
显示第 841–852 篇,共 990 篇