·tian
浏览器原生 AI 是一项针对具体功能的决策:你的团队尚未权衡的四个维度
浏览器原生 AI 并非更快的 TensorFlow.js。它是一个具有四个维度权衡(延迟底线、隐私、设备碎片化、能力上限)的差异化运行时,无法简单归结为一个标准答案。
browser-ai
webgpu
on-device
architecture
+1·tian
浏览器原生 LLM 推理:你不知道自己需要的 WebGPU 工程化实践
通过 WebGPU 在浏览器中直接运行 LLM 将改变你的整个应用架构。本文将探讨其实际的能力上限,以及在哪些场景下混合路由方案优于纯云端方案。
insider
llm
webgpu
browser-ai
+2