Skip to content
简体中文

切换主题

// NVIDIA Parakeet / Canary 语音 · 语音识别

parakeet-tdt_ctc-0.6b-ja 本地部署与显存需求

600M 参数。4 位量化约 0.9 GB,BF16 约 1.8 GB。

发布 2024-05-13许可:可商用显存为估算值

01规格

发布方英伟达 · nvidia
系列NVIDIA Parakeet / Canary 语音 · parakeet-tdt_ctc-ja
类型语音识别 (automatic-speech-recognition)
参数量600M 来源:官方型号名
许可CC-BY-4.0 · 可商用宽松许可(Apache-2.0 / MIT / CC-BY / OpenMDW):允许商用。
发布日期2024-05-13 (Hugging Face 仓库创建日)

02需要多少显存(估算)

语音模型体量小,权重大小基本就是所需显存。

精度权重权重 + 开销最低显卡Mac
BF16 / FP16(原始精度)1.2 GB 1.8 GB 8GB 显卡Mac 16GB
FP8 / INT8 / Q8_00.6 GB 1.2 GB 8GB 显卡Mac 16GB
4 位量化(Q4_K_M / AWQ / GPTQ-Int4)0.4 GB 0.9 GB 8GB 显卡Mac 16GB

每权重比特:BF16 16、FP8 8.5、4 位 4.85。“放得下” = 合计 ≤ 显存 90%;Mac GPU 约可用统一内存的 2/3(≤36GB)或 3/4(更大机型)。MoE 模型所有专家都要进显存,按总参数算。 估算方法 →

03怎么跑

只列厂商或推理框架官方明确支持的方式。

怎么选推理引擎 →

04官方仓库与量化版

nvidia 官方发布的 1 个仓库。

05NVIDIA Parakeet / Canary 语音 其他模型

全部 10 个 →
模型参数4 位合计发布
parakeet-unified-en-0.6b600M0.9 GB2026-04-07
multitalker-parakeet-streaming-0.6b-v1600M0.9 GB2025-10-15
canary-1b-v2979M1.2 GB2025-08-04
canary-qwen-2.5b2.56B2.2 GB2025-06-26
parakeet-tdt-0.6b-v2600M0.9 GB2025-04-15
canary-180m-flash180M0.6 GB2025-03-11
canary-1b-flash811M1.0 GB2025-03-07
parakeet-tdt_ctc-110m110M0.6 GB2024-09-17

06来源

数据核对于 2025-02-18。参数、上下文、许可取自官方仓库;显存为本站估算。

数据更新于:自建算力 · 开源模型(北京时间)