跳转到主要内容

778 含有标签「llm」

Posts tagged "llm" on TianPan.co.

查看所有标签

·tian

生产环境中的模型合并:用权重平均打造多任务专家

深入解析模型合并技术——权重平均、SLERP、任务算术、TIES 和 DARE——涵盖合并何时优于集成、常见故障模式,以及如何在生产环境中部署合并后的 LLM。

insider
machine-learning
llm
model-merging
+1
·tian

LLM 流水线中的 PII:那些你不知道直到为时已晚的数据泄漏

个人数据是如何悄无声息地通过提示模板、上下文窗口、可观测性工具和 RAG 流水线泄漏的——以及真正能阻止这种泄漏的工程模式。

ai-engineering
privacy
security
llm
+1
·tian

合理补全陷阱:为什么代码智能体会生成看似正确实则错误的代码

代码智能体生成的代码能够编译、通过Lint检查、看起来正确,但却在悄无声息地做着错误的事。这里揭示了训练目标为何从根本上导致这一问题,数据说明了什么,以及如何构建真正能发现问题的验证循环。

ai-engineering
code-agents
software-quality
llm
·tian

提示注入攻击面映射:在攻击者之前找到每一个攻击向量

一份实践者方法论:枚举每一个到达 LLM 提示的外部数据源,对每个注入面进行风险评分,并在不破坏模型推理能力的前提下应用正确的净化模式。

insider
security
llm
ai-engineering
+2
·tian

LLM 系统的基于属性的测试:即便输出多变也需遵循的不变量

评估数据集告诉你你的 LLM 是否通过了一组固定的示例。而基于属性的测试则告诉你它是否在整个输入空间内都遵守契约。本文将介绍如何将其应用于非确定性系统。

llm
testing
engineering
ai
·tian

合并再调用:无需降低用户体验即可削减成本的 LLM 请求批处理模式

请求合并是一种分层架构——飞行中去重、精确缓存和语义批处理——可在不降低用户体验的情况下将 LLM 推理成本降低 40–60%。本文介绍如何实现以及在哪些地方会遇到问题。

llm
cost-optimization
system-design
caching
·tian

Schema 驱动的 Prompt 设计:让你的数据模型主导 Prompt 结构

你的实体 Schema 形态直接决定了 LLM 输出的可靠性。了解规范化、嵌套深度、字段排序和枚举约束如何影响幻觉率 —— 以及掌握让 Prompt 到输出的映射更具可预测性的重构模式。

insider
llm
prompt-engineering
data-modeling
+1
·tian

有状态 vs. 无状态 AI 功能:决定一切下游走向的架构抉择

有状态与无状态 AI 功能的选择往往在早期就已确定,但其影响无处不在——存储层、调试工具链、安全态势以及成本。本文将帮助你做出审慎的抉择。

insider
ai-architecture
llm
agents
+1
·tian

不会崩溃的合成数据管道:大规模生成训练数据

模型崩溃会悄然降低在自身输出上训练的 LLM 的性能。了解累积混合、多源生成、验证堆栈和多样性监控等管道架构,让合成训练数据保持高效而非自我中毒。

insider
synthetic-data
model-collapse
fine-tuning
+2
·tian

指令遵循悬崖:为什么在系统提示中多加一条规则会破坏另外三条

LLM的合规性并非线性退化——它会触及一个悬崖,多加一条规则就会让其他规则失稳。研究显示,即便是前沿模型在高指令密度下准确率也只有68%。本文解析规则为何相互冲突,以及如何通过分解模式让系统提示保持可靠。

llm
prompt-engineering
system-prompts
ai-engineering
·tian

生产级 AI 流水线中的视觉输入:无人记录的预处理决策

图像分辨率、压缩伪影、OCR 预处理和长宽比处理是如何在生产环境中悄无声息地降低视觉模型准确度的 —— 以及区分模型故障与输入故障的归一化流水线。

vision
multimodal
llm
production
·tian

当你的智能体意见不一致时:多智能体系统中的共识与仲裁

如何在没有标准答案的情况下解决对等 AI 智能体之间的输出冲突 —— 内容涵盖多数投票、置信度加权、裁判模型,以及何时应该向用户展示分歧而非将其隐藏。

insider
multi-agent
llm
architecture
+1
显示第 649–660 篇,共 778 篇