跳转到主要内容

990 含有标签「insider」

TianPan.co 上标记为“insider”的文章。

查看所有标签

·tian

课程陷阱:为什么针对最佳示例进行微调会产生平庸的模型

仅策划高质量、高置信度的输出作为微调数据会导致分布失配,破坏对不确定性的感知,并产生“自信地犯错”的模型。本文将探讨其中的原因以及你应该采取的对策。

insider
fine-tuning
llm
ai-engineering
+1
·tian

过度宣称陷阱:当“歪打正着”摧毁 AI 产品信任

当 AI 系统通过虚构的推理链得出正确答案时,检查工作的资深用户会永久失去信任 —— 这比系统直接出错导致信任崩塌的速度还要快。

insider
ai-engineering
llm
trust
+2
·tian

Tokenizer 算术:生产环境中悄然作祟的隐藏层

BPE 分词会产生可预测的故障模式,破坏结构化输出解析器、损坏缓存策略,并导致成本估算在真实流量下崩溃——在责怪模型之前,先检查 tokenizer。

insider
llm
tokenization
production
+1
·tian

信任校准差距:为什么 AI 功能要么被忽视,要么被盲目服从

大多数 AI 产品失败并非模型失败,而是信任失败。用户要么完全忽视 AI,要么不加审视地盲目服从。本文探讨如何设计以实现校准信任。

insider
ai-engineering
ux
product-design
+1
·tian

当提示词工程师离职时:AI 知识转移的难题

提示词积累了隐性的业务逻辑、默契的决策以及未记录的边缘案例修复。当作者离职时,这些组织知识也随之流失——而由此产生的代价是真实存在的。

insider
prompt-engineering
ai-operations
technical-debt
+1
·tian

大规模语料库策展:为什么你的 RAG 质量上限取决于你的文档质量下限

大多数 RAG 失败并不是模型故障,而是数据故障。本文探讨文档质量如何决定你的检索上限,以及在生产环境中语料库卫生究竟意味着什么。

insider
rag
llm
information-retrieval
+2
·tian

AI 系统的数据溯源:追踪答案来源已成为工程必修课

当你的 LLM 在生产环境中给出错误答案时,你能追溯到底是哪些文档导致了这个结果吗?如果不能,你已经落后了。本文介绍如何从第一天起就将来源血缘嵌入 AI 系统。

insider
ai-engineering
rag
observability
+1
·tian

混合 LLM 工作负载的 GPU 调度:那个没人解决好的装箱问题

在共享 GPU 集群上服务多个 LLM 模型会浪费 30–50% 的可用算力。本文解析 Kubernetes GPU 调度为何不适用于 LLM 推理,以及真正有效的解决方案。

insider
llm
infrastructure
gpu
+2
·tian

制度性知识流失:AI Agent 如何在不传递理解的情况下吸收决策

当 AI Agent 端到端地处理任务时,曾经通过人类对话流转的推理过程停止了流动。本文探讨了这对工程团队造成的代价,并提供了具体的模式,在流失加剧之前阻止它。

insider
ai-agents
engineering-culture
knowledge-management
+1
·tian

为什么你的数据库在AI功能上线后崩溃:LLM感知的连接池设计

AI功能会产生突发性的长时间运行查询模式,耗尽为可预测Web流量设计的连接池。连接池分段、准入控制和'在LLM调用前释放连接'模式可以防止AI工作负载挤占核心产品资源。

insider
database
connection-pool
ai-infrastructure
+1
·tian

机器可读的项目上下文:为什么你的 CLAUDE.md 比模型选择更重要

每款 AI 编程工具在响应之前都会读取一个项目专属的 Markdown 文件。这个文件的质量比背后的模型更可靠地预测输出质量——然而大多数团队只写一次、写得很糟,然后再也不碰。

insider
ai-engineering
developer-tools
agent-architecture
+1
·tian

MCP 就是新一代的微服务:AI 工具生态正在重蹈分布式系统的覆辙

已有超过 16,000 个 MCP 服务器上线且仍在增长——这与 2016 年微服务泛滥的场景如出一辙。本文提供了一份实用指南,涵盖失败模式、网关模式和成熟度模型,帮助防止你的 AI 工具层变成下一个'死星'。

insider
mcp
microservices
distributed-systems
+2
显示第 865–876 篇,共 990 篇