跳转到主要内容

990 含有标签「insider」

TianPan.co 上标记为“insider”的文章。

查看所有标签

·tian

混合自动化技术栈:规则与LLM混合使用的决策框架

规则型自动化脆弱但可审计。LLM自动化灵活但不透明。这是一个实用的决策框架,用于判断哪些任务属于哪种范式——以及如何架构两者之间的接缝。

insider
llm
automation
architecture
+1
·tian

AI 功能的延迟预算:当核心组件是随机的,如何制定并达成 p95 SLO

LLM 延迟与数据库延迟的行为截然不同。本文介绍如何为 AI 功能制定切实可行的 p95 SLO、分解延迟预算,并利用对冲、流式传输和推测执行真正达成这些目标。

insider
ai
engineering
performance
+2
·tian

供应商可靠性陷阱:你的 LLM 供应商 SLA 已成为你用户的 SLA

你对外宣称 99.9% 的正常运行时间,但你的关键路径却依赖于一个只有 99.5% SLA 的 API——而供应商故障往往集中发生在流量高峰期。以下是在故障找上门之前弥合差距的方法。

insider
reliability
production-ai
infrastructure
+1
·tian

LLM 作为 ETL 原语:AI 不仅是产品功能,更是数据管道的核心

大多数团队都在产品中构建 AI 功能。而真正的变革正悄然发生在数据管道内部。在这里,LLM 大规模地对记录进行分类、增强、去重和路由——从而创造出那些仅关注产品的团队无法复制的复合数据资产。

insider
data-engineering
llm
etl
+2
·tian

多租户 Prompt 难题:当一个系统提示词要服务多个主人时

B2B AI 产品允许客户自定义行为,但分层的系统提示词会静默地相互覆盖——直到企业客户提交工单前没人会发现。本文介绍了一种显式的指令层级架构,使冲突解决过程变得可审计。

insider
llm
b2b
prompt-engineering
+1
·tian

Prompt 静态分析:你的 AI 系统缺失的预部署门控

大多数团队发布提示词变更到生产环境时,审查力度还不如一次 CSS 调整。对提示词进行静态分析——捕获指令冲突、可注入的模板插槽和位置陷阱——正是你的 AI 系统缺失的预部署门控。

insider
ai-engineering
prompt-engineering
devops
+1
·tian

Schema 熵:为什么你的工具定义正在生产环境中腐烂

生产环境 AI 系统中的工具定义在数月内会悄无声息地降级。本文将探讨 Schema 熵是如何形成的,为什么 Agent 无法自我修正,以及如何通过版本控制和契约测试实践在故障发生前捕获腐烂问题。

insider
ai-engineering
tool-use
production
+1
·tian

选择性弃权问题:为何总给答案的 AI 系统是有缺陷的

大多数 AI 产品设计都在优化更好的答案。更难、更有价值的能力是有原则地拒绝回答——而几乎没有团队在刻意构建它。

insider
ai-engineering
llm
production-ai
+1
·tian

语义验证层:为什么 JSON Schema 不足以应对生产环境中的 LLM 输出

受约束解码可以保证 LLM 输出是合法的 JSON,但无法保证其具有实际意义。本文介绍一种双层验证架构,用于捕获 Schema 无法发现的故障。

insider
llm
structured-outputs
validation
+2
·tian

异步 Agent 的静默失败:为何你的 AI 任务悄然终止却无人察觉

异步 AI 任务会静默而自信地失败——HTTP 200,仪表盘一片绿,客户最终投诉才发现。本文介绍死信队列、幂等键和 Saga 日志如何从传统分布式系统迁移到 AI Agent 场景以解决这一问题。

insider
ai-agents
observability
distributed-systems
+1
·tian

你的 LLM 评估在欺骗你:统计功效问题

大多数 LLM 评估套件在 50–200 个样本上运行,却声称具有实际上并不存在的显著性。以下是数学原理,说明为什么你的评估无法检测你正在进行的改进——以及该怎么做。

insider
llm
evaluation
statistics
+1
·tian

AI 采纳悖论:为何价值最高的领域反而最晚部署 AI

医疗行业的 AI 采纳率仅为 39%,而软件公司高达 92%——但医疗行业显然有更多可以从 AI 中获益的空间。这种差距并非源于规避风险,而是准确率阈值、合规时序与部署架构之间的结构性错配。

insider
ai
deployment
regulated-industries
+1
显示第 853–864 篇,共 990 篇