跳转到主要内容

778 含有标签「llm」

Posts tagged "llm" on TianPan.co.

查看所有标签

·tian

Prompt Caching:将 LLM 成本降低 90% 的优化方案

一份通过 Prompt Caching 将 LLM API 成本降低 60–90% 的实用指南 —— 涵盖 Anthropic 和 OpenAI 的前缀缓存、静默降低命中率的并行执行陷阱,以及用于生产工作负载的多层缓存架构。

llm
cost-optimization
prompt-engineering
caching
·tian

生产环境中的工具使用:真正有效的函数调用模式

大多数 LLM 代理失败的原因可追溯到工具 Schema 规范不足,而非模型能力问题。本实践指南涵盖了生产环境函数调用的 Schema 设计、错误处理、并行调用和安全性。

llm
agents
function-calling
production
+1
·tian

生产环境中的结构化输出:如何用 LLM 生成可靠的 JSON

一份实用指南,教你如何在生产环境中从 LLM 获取符合模式的 JSON — 内容涵盖受限解码、提供商 API、模式设计陷阱,以及防止智能体链崩溃的验证模式。

llm
ai-engineering
structured-outputs
agents
·tian

生产中的推理模型:何时使用,何时不使用

一份关于在生产环境中部署推理模型的实用指南——何时其 5-10 倍的成本溢价是合理的,如何构建路由架构,以及需要跟踪哪些指标。

llm
ai-engineering
production
agents
·tian

模型上下文协议:最终解决AI工具集成的行业标准

模型上下文协议实战指南——它的工作原理,它如何胜过函数调用,实践者常忽略的安全风险,以及你今天可以用它来构建什么。

mcp
ai-agents
tool-integration
llm
+1
·tian

你的 AI 产品需要评估系统

大多数 AI 产品失败并非因为模型本身,而是因为缺乏评估系统。本文提供一份实用指南,教你如何构建评估系统,从单元测试到人工评审再到 A/B 测试——以及为什么尽早开始会带来复合收益。

ai-engineering
evals
llm
testing
+1
·tian

快速改进 AI 产品背后不那么光鲜的工作

大多数 AI 团队在产品发布后会陷入停滞,并非因为能力不足,而是因为跳过了那些枯燥的基础工作:错误分析、定制工具、领域专家参与以及实验驱动的路线图。

ai-engineering
llm
evaluation
product
·tian

云代理正在重塑软件构建方式

AI 编程工具已经从自动补全发展到本地代理,再到云代理——每一次转变都改变了工作的基本单元。本文将探讨云代理时代对工程师和工程基础设施的实际要求。

ai-agents
developer-tools
cloud-infrastructure
llm
·tian

LLM作为裁判:构建真正有效的评估器实用指南

大多数LLM评估设置在设计上就存在缺陷——错误的指标、错误的人员、错误的方法论。这里提供一个具体的框架,用于构建与质量实际相关并能捕获真实退步的LLM裁判。

llm
evaluation
ai-engineering
agents
·tian

使用 LLM 构建的一年:该领域的实战经验总结

来自将 LLM 驱动的系统推向生产环境的团队的宝贵经验:为什么模型是你技术栈中最不持久的部分,如何构建真正有效的评估基础设施,以及 RAG 何时优于微调。

llm
ai-engineering
rag
evals
+1
·tian

AI Agent 的工作原理:架构、规划和失败模式

深入解析 AI Agent 的工作原理——涵盖工具使用、规划模式、反思循环、多 Agent 协作以及实际生产中规划失败的五种方式。

ai-agents
llm
architecture
multi-agent
+1
·tian

将 LLM 系统落地生产的血泪经验

将 LLM 系统落地生产的实战经验:为什么评估要先行,为什么混合搜索优于纯向量检索,以及为什么模型本身不是护城河。

llm
production
rag
evaluation
+1
显示第 757–768 篇,共 778 篇