Skip to content
简体中文

切换主题

// Kimi · 语音合成 / 音频

Kimi-Audio-7B-Instruct 本地部署与显存需求

9.77B 参数。4 位量化约 7.0 GB,BF16 约 22.0 GB。

发布 2025-04-25许可:可商用显存为估算值

01规格

发布方月之暗面 · moonshotai
系列Kimi · Kimi-Audio
类型语音合成 / 音频 (text-to-speech)
参数量9.77B 来源:按官方 safetensors 权重统计
发布权重BF16 · 19.5 GB下载量
许可MIT · 可商用宽松许可(Apache-2.0 / MIT / CC-BY / OpenMDW):允许商用。
发布日期2025-04-25 (Hugging Face 仓库创建日)

02需要多少显存(估算)

音频模型体量小,权重大小基本就是所需显存。

精度权重权重 + 开销最低显卡Mac
BF16 / FP16(原始精度)19.5 GB 22.0 GB RTX 5090 32GBMac 64GB
FP8 / INT8 / Q8_010.4 GB 11.9 GB 16GB 显卡Mac 24GB
4 位量化(Q4_K_M / AWQ / GPTQ-Int4)5.9 GB 7.0 GB 8GB 显卡Mac 16GB

每权重比特:BF16 16、FP8 8.5、4 位 4.85。“放得下” = 合计 ≤ 显存 90%;Mac GPU 约可用统一内存的 2/3(≤36GB)或 3/4(更大机型)。MoE 模型所有专家都要进显存,按总参数算。 估算方法 →

03怎么跑

只列厂商或推理框架官方明确支持的方式。

官方模型卡未写明推理框架,请查看仓库说明。

怎么选推理引擎 →

04官方仓库与量化版

moonshotai 官方发布的 1 个仓库。

05Kimi 其他模型

全部 14 个 →
模型参数4 位合计发布
Kimi-K32.8T / 104B1.87 TB2026-06-13
Kimi-K2.7-Code1T / 32B668 GB2026-06-11
Kimi-K2.61T / 32B668 GB2026-04-14
Kimi-K2.51T / 32B668 GB2026-01-01
Kimi-K2-Thinking1T / 32B668 GB2025-11-04
Kimi-Linear-48B-A3B-Instruct49.1B / 3B33.3 GB2025-10-30
Kimi-K2-Instruct-09051T / 32B668 GB2025-09-03
Kimi-K2-Instruct1T / 32B668 GB2025-07-11

06来源

数据核对于 2025-05-29。参数、上下文、许可取自官方仓库;显存为本站估算。

数据更新于:自建算力 · 开源模型(北京时间)