跳转到主要内容

6 含有标签「prompting」

Posts tagged "prompting" on TianPan.co.

查看所有标签

·tian

接手 AI 系统审计:如何掌控一个非你亲手构建的 LLM 功能

为接手没有文档的 LLM 功能的工程师提供的实用指南——如何重构意图、审计护栏并安全地进行重构。

insider
llm
engineering
ai-ops
+2
·tian

少样本腐化:为什么昨天的示例会拖累今天的模型

少样本示例是针对特定模型进行优化的。在模型升级后,那些曾经提升准确率的演示示例可能会悄无声息地开始产生负面影响 —— 本文介绍了防止腐化的审计和溯源规范。

insider
llm
prompting
evaluation
+2
·tian

零样本、少样本还是思维链:生产环境下的决策框架

大多数团队根据习惯选择提示词策略。本文提供了一套基于证据的标准——包括任务复杂度、模型规模、Token 预算和输出结构——用于预测哪种方法在你的特定任务中表现最佳。

llm
prompting
ai-engineering
production-ai
·tian

生产环境中的零样本与少样本:示例何时有用,何时有害

关于何时使用零样本与少样本提示的实证分析——以及为什么大规模静态示例往往适得其反。

llm
prompting
production-ai
few-shot
+1
·tian

动态少样本检索:为什么你的静态示例正在损耗准确率

静态少样本示例看起来很安全,但它们会悄无声息地降低大多数请求的质量。本文从工程角度阐述动态检索的必要性——以及团队在迁移过程中常踩的坑。

llm
prompting
retrieval
production-ai
+1
·tian

Chain-of-Thought 的 Token 经济学:当“大声思考”的成本入不敷出时

思维链(Chain-of-thought)提示词会让 Token 成本膨胀 2 到 5 倍,并增加数秒的延迟,但在大多数生产任务中却无法带来可衡量的准确性提升。本文提供了一个决策框架,探讨 CoT 在何时值得、何时有害,以及像 Chain-of-Draft 这种能以极低成本弥补差距的更廉价替代方案。

chain-of-thought
llm-cost-optimization
prompting
inference-efficiency