// AI 新闻 · 2026-11-11 · PyTorch Blog
PyTorch 推出 WebGPU 后端支持浏览器 GPU 推理
PyTorch 团队宣布推出 ExecuTorch WebGPU 后端,使模型可直接在浏览器中通过 GPU 加速运行。用户使用 torch.export 导出模型为 .pte 文件,该文件可在支持 WebGPU 的浏览器中直接加载执行,无需转换至其他框架格式。模型涵盖大语言模型、视觉语言模型、语义分割、深度估计、目标检测等多种类型,所有计算在本地完成,数据不离开设备。
原文发布 2026-11-11 06:15(北京时间)来源 PyTorch Blog自动整理 · 已核对原文
01摘要
该后端在相同机器上相较 CPU 路径(WebAssembly + XNNPACK)在预填充阶段快 4–7 倍,解码阶段快 2–10 倍。支持跨平台运行,包括 Chrome、Safari 等浏览器以及 macOS 的 Metal、Linux/Android 的 Vulkan 和 Windows 的 D3D12。模型通过 WGSL 计算着色器实现,动态形状通过分配最大缓冲区并按调度重计算处理,运行时自动路由至专用内核。
由开源模型根据原文自动整理,经数字/专名逐项核对(必须在原文中出现),以原文为准。
02要点
- PyTorch 模型可通过 torch.export 导出为 .pte 文件,在 WebGPU 浏览器中直接运行,无需转成其他框架格式。
- 在 Apple M1 Pro 上测试显示,WebGPU 路径在预填充阶段比 CPU 路径快 4–7 倍,解码阶段快 2–10 倍。
- 支持 Llama 3.2、Qwen3、Gemma 3、SmolVLM、Depth Anything 等多种模型架构,涵盖文本、视觉和语音任务。
- 所有输入输出数据保留在本地设备,不上传至服务器,保障隐私并降低网络延迟。
03原文出处
ExecuTorch WebGPU: PyTorch Models on the GPU, in the Browser
PyTorch Blog · 发布于 2026-11-11 06:15(北京时间) · 上方为原标题
05相关新闻
出自智图 AI 新闻:从 1100 多个官方与媒体信源采集。摘要只转述原文内容,详情请看原文。 2026-11-11 全部新闻 · 按日期归档 · 全部 AI 新闻 · 今日