跳转到主要内容

990 含有标签「insider」

TianPan.co 上标记为“insider”的文章。

查看所有标签

·tian

孤儿适配器难题:当你的微调模型寿命超过其基础模型时

绑定在已弃用基础模型上的微调适配器会变成生产环境中的“僵尸”——既承担核心负载又无法复现。一个持久的适配器生命周期需要与基础模型同步的重训频率、行为指纹测试,以及能够在团队更迭中存续的机构记忆。

insider
fine-tuning
lora
mlops
+2
·tian

输出承诺问题:为什么流式自我纠正比原始错误更损害用户信任

即便最终答案正确,流式输出中途的修改也会被视为无能。解决方案是采用“先规划再承诺”协议、清晰的细化层面分类,以及有意识地选择何时隐藏思考过程。

insider
ai-ux
streaming
llm
+2
·tian

模式匹配失败:当你的 LLM 流利地解决了错误的问题时

流利且扣题的 LLM 回答如果解决了错误的问题,是生产环境中最难处理的 Bug 类型。本文提供了一套实用的指南,用于检测表面特征过拟合,并设计能够揭示这些问题的提示词。

insider
llm
prompt-engineering
evaluation
+2
·tian

“规划并执行”只是营销而非契约:将计划依从度作为一等 SLI

“规划并执行”智能体生成的计划看起来像契约,但在实际表现中更像是预测。你应该将计划依从度视为一项 SLI,具备测量、强制执行和有限的重新规划预算,而不是一个每季度评分一次、可有可无的质量指标。

insider
ai-agents
llm-evaluation
observability
+2
·tian

你的提示词正在与模型已有的认知竞争

基础模型在交付时已预装了对你所处领域的强烈观点。探测先验、反驳默认设置,停止发布那些与模型已有认知相竞争的提示词。

insider
ai-engineering
prompt-engineering
llm
+1
·tian

你的 RAG 分块器是一项无人 Review 代码的数据库 Schema

将你的 RAG 分块器视为预处理,每一次边界微调都会变成一次静默的 Schema 迁移。对其进行版本管理、灰度发布,并同步负责检索评估。

insider
rag
retrieval
vector-database
+2
·tian

为什么你的 RAG 引用在撒谎:源归因中的事后合理化

50% 到 90% 的大语言模型引用并不完全支持它们所对应的陈述。本文将探讨为什么事后归因会导致 RAG 系统在潜移默化中失去信任,如何利用 NLI 衡量引用忠实度,以及哪些架构修复方案真正有效。

insider
rag
llm
evaluation
+1
·tian

工具边界处的推理模型税

推理模型在基准测试中获胜,但在工具选择步骤中却损失了延迟和质量。本文探讨了按步骤进行的混合路由模式、归因以及反模式。

insider
ai-agents
llm
cost-optimization
+2
·tian

重试放大:2% 的工具错误率如何演变成 20% 的智能体故障

智能体循环通过在多个步骤和 SDK 层级间叠加重试,将 2% 的工具错误率放大为 20% 的用户端故障。本文将解析其背后的数学原理、自我 DoS 模式,以及能够遏制这种现象的重试预算规范。

insider
agents
reliability
retry
+2
·tian

右缘准确率下降:为什么上下文窗口的最后 20% 是个陷阱

填满 LLM 宣称的上下文窗口会导致右缘准确率崩溃 —— 这是继“迷失在中间”之后的一种失效模式。本文包含基准测试、按任务划分的安全裕度以及提示词修复方案。

insider
llm
context-window
prompt-engineering
+2
·tian

橡皮图章式崩溃:为什么 AI 编写的 PR 正在掏空代码审查

当代码仓库中大部分的 diff 最初都源自模型输出时,审查者往往会陷入“看起来没问题”的心理锚点,从而漏掉那些没有明显语法异味的语义错误。本文探讨了应对措施、管理层必须回答的披露问题,以及会在六个月后集中爆发的事故曲线。

insider
ai-engineering
code-review
engineering-leadership
+1
·tian

语义缓存是安全隐患,而非性能提升

语义缓存能在不到一毫秒的时间内返回另一个用户的响应,而你的命中率仪表盘还会因此变绿。本文探讨如何通过缓存键设计、溯源封装和审计追踪,从架构层面防止跨用户数据泄漏。

insider
llm
security
caching
+2
显示第 625–636 篇,共 990 篇