跳转到主要内容

834 含有标签「ai-engineering」

Posts tagged "ai-engineering" on TianPan.co.

查看所有标签

·tian

Prompt Engineering 深度解析:从基础到高级技术

为在生产环境中使用 LLM 的工程师提供的提示工程实用指南 —— 涵盖零样本与少样本权衡、思维链基准测试、结构化输出可靠性模式,以及破坏生产环境提示词的五个常见错误。

prompt-engineering
llm
ai-engineering
production-ai
·tian

AI 基准测试究竟衡量了什么(以及为什么你不该迷信排行榜)

AI 基准测试分数看起来很客观,但由于数据污染、格式敏感性和古德哈特定律的影响,排行榜的排名往往无法反映真实的生产环境表现。本文将带你了解其中的核心问题。

evaluation
llm
benchmarks
ai-engineering
·tian

微调通常是错误的选择:大语言模型定制决策框架

大多数团队过早地尝试微调。这里有一个基于基准测试和生产案例的实用决策框架,探讨了提示工程何时优于微调,何时不优于微调,以及每种方法的真实经济成本。

fine-tuning
prompt-engineering
llm
ai-engineering
·tian

生产环境中的工具调用:循环、陷阱与实战方案

一份关于在生产环境 LLM 系统中进行工具调用的实用指南 —— 涵盖代理循环、并行执行格式规则、编写有效的工具描述、使用 is_error 进行错误恢复,以及工具何时会增加延迟而无实际价值。

llm
agents
tool-use
production
+1
·tian

LLM 路由与模型级联:如何在不牺牲质量的情况下降低 AI 成本

将每个查询都交给顶级模型处理是团队在 AI 上超支最常见的原因。LLM 路由和模型级联可以在保持 95% 质量的同时降低 45–85% 的成本 —— 本文将介绍这些模式在生产环境中的实际运作方式。

llm
cost-optimization
ai-engineering
model-routing
·tian

为什么多智能体系统会在接缝处断裂:设计可靠的交接机制

生产环境中的多智能体系统故障往往发生在智能体之间的边界处,而非其内部。本文深入分析了三种主要的故障模式以及防止这些故障的工程模式。

multi-agent
ai-engineering
production
orchestration
·tian

APM 仪表盘不会告诉你:生产环境中的 LLM 可观测性

生产环境中的 LLM 系统往往在无声中失效 —— 绿色仪表盘背后隐藏着幻觉、提示词漂移和错误的工具选择。本文将介绍一种真正能发现问题的埋点模型。

llm
observability
production
tracing
+1
·tian

生产环境中的推理模型:何时获益,何时受损

推理模型可以解决指令模型无法处理的问题 —— 但如果使用不当,成本会增加 10 倍,且每个请求会增加 10 秒的延迟。以下是你该如何权衡利弊的思考。

ai-engineering
llms
production-ai
model-selection
·tian

超越 JSON 模式:在生产环境中获取可靠的 LLM 结构化输出

仅靠提示词的 JSON 提取在生产环境中会有 5–20% 的失败率。本文深入解析了从 JSON 模式到约束解码的全部四代结构化输出技术,并提供了库推荐和模式设计规则。

llm
production
structured-outputs
ai-engineering
·tian

上下文工程:为什么你喂给 LLM 的内容比你提问的方式更重要

上下文工程是提示词工程无法解决的系统架构问题。本文将解释为什么投毒、干扰、混淆和冲突这四种失败模式解释了大多数生产环境中的 LLM 故障,以及如何通过工程化手段解决这些问题。

llm
ai-agents
rag
production
+1
·tian

AI Agent 架构:生产环境中真正有效的方案

88% 的 AI Agent 项目从未进入生产阶段。失败的原因几乎从来不是模型本身,而是周边的架构。本文深入剖析了五层 Agent 技术栈、四层记忆模型、编排与路由的权衡,以及导致 94% 生产环境失败的七种模式。

ai-engineering
agents
architecture
production
+1
·tian

生产环境中的 LLM 护栏:哪些方法真正奏效

一份关于 LLM 护栏的实用工程指南:涵盖分层输入/输出验证、误报累积的原因、串行与并行执行的权衡,以及如何在生产环境中监控重要指标。

llm
guardrails
production
safety
+1
显示第 805–816 篇,共 834 篇