Skip to content
简体中文

切换主题

// FunAudioLLM 语音 · 语音识别

SenseVoiceSmall 本地部署与显存需求

阿里通义实验室发布的语音识别模型。

发布 2024-07-03许可:自定义许可,需阅读显存为估算值

01规格

发布方阿里通义实验室 · FunAudioLLM
系列FunAudioLLM 语音 · SenseVoiceSmall
类型语音识别 (automatic-speech-recognition)
参数量官方元数据未给出
许可model-license · 自定义许可,需阅读厂商使用自定义许可,本站未归类,请阅读许可原文。
发布日期2024-07-03 (Hugging Face 仓库创建日)

02需要多少显存(估算)

语音模型体量小,权重大小基本就是所需显存。

无法估算:官方元数据没有给出参数量。请查看模型卡里官方测试过的硬件。

每权重比特:BF16 16、FP8 8.5、4 位 4.85。“放得下” = 合计 ≤ 显存 90%;Mac GPU 约可用统一内存的 2/3(≤36GB)或 3/4(更大机型)。MoE 模型所有专家都要进显存,按总参数算。 估算方法 →

03怎么跑

只列厂商或推理框架官方明确支持的方式。

怎么选推理引擎 →

04官方仓库与量化版

FunAudioLLM 官方发布的 2 个仓库。

05FunAudioLLM 语音 其他模型

全部 5 个 →
模型参数4 位合计发布
Fun-ASR-Nano-2512-hf830M1.1 GB2026-05-24
Fun-ASR-MLT-Nano-2512——2025-12-15
Fun-CosyVoice3-0.5B-2512500M0.8 GB2025-12-11
CosyVoice2-0.5B500M0.8 GB2025-07-29

06来源

数据核对于 2026-06-20。参数、上下文、许可取自官方仓库;显存为本站估算。

数据更新于:自建算力 · 开源模型(北京时间)