// AI 新闻 · 2026-10-27 · PyTorch Blog
基于ExecuTorch优化Arm边缘设备上的流式语音识别
PyTorch团队在Google Pixel 11设备上测试了Nemotron 3.5流式语音识别模型,研究其在不同精度和分块大小下的表现。实验发现,随着分块长度从80ms增至1120ms,FP16和INT8量化模型的词错误率(WER)均显著下降,其中FP16在80至1120ms区间内WER从15.2%降至11.5%,INT8从15.5%降至11.7%。该结果表明更长的音频分块有助于提升最终转录准确性。
原文发布 2026-10-27 02:27(北京时间)来源 PyTorch Blog自动整理 · 已核对原文
01摘要
研究还分析了模型推理过程中的时间开销,指出使用Arm SME2扩展指令集和FP16/INT8量化可有效降低总处理时间。XNNPACK与KleidiAI微核协同优化矩阵运算,而执行路径依赖于实际性能分析。最终提出应结合分块大小与精度进行联合选择,以平衡准确性和延迟需求。
由开源模型根据原文自动整理,经数字/专名逐项核对(必须在原文中出现),以原文为准。
02要点
- 更长的音频分块(如1120ms)可显著降低流式语音识别的词错误率。
- FP16和INT8量化在保持高精度的同时有效减少了模型推理的计算开销。
- Arm SME2扩展指令集与XNNPACK微核协同,提升了矩阵运算效率。
- 分块大小与精度需结合选择,以满足不同场景下的准确性和延迟要求。
03原文出处
Optimizing Streaming Speech Recognition on Arm® Edge Devices with ExecuTorch
PyTorch Blog · 发布于 2026-10-27 02:27(北京时间) · 上方为原标题
05同主题新闻
出自智图 AI 新闻:从 1100 多个官方与媒体信源采集。摘要只转述原文内容,详情请看原文。 全部 AI 新闻 · 今日