跳转到主要内容

164 含有标签「prompt-engineering」

Posts tagged "prompt-engineering" on TianPan.co.

查看所有标签

·tian

提示词位置即政策:当三个团队共同拥有一个系统提示词时发生的无声合并冲突

当系统提示词超过 2K token 时,位置偏差使得移动指令与重写指令具有同等的重要性——而基于行的 diff 对此视而不见。本文探讨三个团队如何无声地覆盖彼此的意图,以及如何通过分段所有权和评估规约来捕捉这些冲突。

prompt-engineering
ai-infrastructure
llm
evaluation
+1
·tian

潜伏在 Few-Shot 提示词模板中的客户记录

你在六个月前粘贴到 Few-shot 提示词中的 “代表性客户” 仍处于生产环境中 —— 它们可被重新识别、被重复发送,且对 DLP 隐形。

insider
ai-engineering
security
privacy
+2
·tian

工具 Schema 是提示词,而非 API 合约

从 OpenAPI 规范自动生成的 LLM 工具 Schema,本质上是将你的 API 文档作为提示词发布 —— 而你的智能体将为此付出代价,在测试中难以察觉的误用会频频发生。

insider
llm-tools
agents
function-calling
+2
·tian

双语问题:为什么类型安全会在提示词边界失效

静态类型系统在提示词边界会失效。本文探讨了三种失败模式——插值、描述式 Schema、输出解析——以及当编译器无法识别接缝时,弥合这一差距的工程规范。

ai-engineering
type-safety
prompt-engineering
structured-outputs
+1
·tian

两个 PM 的难题:当提示词所有权与产品所有权发生偏离时

大多数 AI 团队将提示词所有权与产品所有权分开,并在无人负责的回归问题中支付协调税。本文介绍了这种失败模式以及让这种分工得以存续的仪式——共享发布日历、统一仪表板、联合事故频道以及包含四个产出物的 RACI 模型。

insider
ai-product
organization
prompt-engineering
+2
·tian

30 天 Prompt 见习计划:当“阅读代码”失效时,如何入职工程师

一段 200 行的系统 Prompt 没有函数签名,没有测试,且 diff 历史完全没有说明为什么每一行代码会出现在那里。这份为期 30 天的课程——涵盖失败案例集、消融实验、PR 重构和受控编辑——旨在教导新工程师通过询问其行为来“阅读”一个 Prompt。

insider
prompt-engineering
onboarding
ai-engineering
+2
·tian

提示词资产贬值:你团队中缺失的 AI 维护时间表

生产环境中的提示词会随着底层模型、分词器(tokenizer)和产品规则的更迭而悄然失效。请将每一个提示词都视为会贬值的资产,为其指定负责人、重验证日期以及评估偏差(eval delta)—— 否则,你只能接受那些团队里没人想发布、却真实发生的质量回退。

prompt-engineering
llmops
technical-debt
ai-engineering
+1
·tian

Prompt Bisect:通过二分查找定位破坏 Eval 的修改

一夜之间 eval 分数下降了两个百分点,而包含 17 处修改的提示词 PR 应该是一个二分查找问题,而不是一场猜谜游戏。本文将介绍如何像内核维护者通过 bisect 调试内核一样来调试提示词 —— 以及这种方法对团队提交粒度要求的强制规范。

llm
prompt-engineering
evals
ai-engineering
+1
·tian

你的系统提示词终会泄露:针对提示词提取进行设计

提示词提取是对 LLM 产品的一种隐蔽攻击。应将系统提示词视为公开内容,将秘密移出上下文,并为其构建评估体系。

insider
llm-security
prompt-engineering
owasp
+1
·tian

系统提示词作为代码、配置或数据:影响全局的架构决策

大多数团队在选择系统提示词的存储位置时非常随意,随后却要在数年内为此承担后果。在代码、配置和数据存储之间的选择会直接影响部署频率、评估范围和租户灵活性 —— 这里有一套在 MVP 阶段前就应应用的框架。

llm
ai-engineering
architecture
prompt-engineering
+1
·tian

Prompt 迭代中的“局部最大值”陷阱:如何判断你调错了地方

提示词调优了六周,评估分数依然在 4 分的区间内波动?你正处于局部最大值。本文将教你如何诊断你究竟撞到了哪块天花板——是提示词、检索、模型、规范还是数据——并选择能打破僵局的关键杠杆。

llm
prompt-engineering
evals
production-ai
+1
·tian

人格漂移:当你的智能体忘记自己的身份时

长对话会悄悄侵蚀系统提示词。本文探讨了为什么智能体人格会在 8–12 轮对话后发生漂移,如何衡量其半衰期,以及哪些强化模式能够保持稳定性。

insider
agents
evals
reliability
+2
显示第 85–96 篇,共 164 篇