Skip to content
简体中文

切换主题

// Phi · 语音识别

Phi-4-multimodal-instruct 本地部署与显存需求

5.57B 参数。4 位量化约 4.2 GB,BF16 约 12.8 GB。

发布 2025-02-24许可:可商用显存为估算值

01规格

发布方微软 · microsoft
系列Phi · Phi-4-multimodal
类型语音识别 (automatic-speech-recognition)
参数量5.57B 来源:按官方 safetensors 权重统计
发布权重BF16 · 11.2 GB下载量
许可MIT · 可商用宽松许可(Apache-2.0 / MIT / CC-BY / OpenMDW):允许商用。
发布日期2025-02-24 (Hugging Face 仓库创建日)

02需要多少显存(估算)

语音模型体量小,权重大小基本就是所需显存。

精度权重权重 + 开销最低显卡Mac
BF16 / FP16(原始精度)11.2 GB 12.8 GB 16GB 显卡Mac 24GB
FP8 / INT8 / Q8_05.9 GB 7.0 GB 8GB 显卡Mac 16GB
4 位量化(Q4_K_M / AWQ / GPTQ-Int4)3.4 GB 4.2 GB 8GB 显卡Mac 16GB

每权重比特:BF16 16、FP8 8.5、4 位 4.85。“放得下” = 合计 ≤ 显存 90%;Mac GPU 约可用统一内存的 2/3(≤36GB)或 3/4(更大机型)。MoE 模型所有专家都要进显存,按总参数算。 估算方法 →

03怎么跑

只列厂商或推理框架官方明确支持的方式。

怎么选推理引擎 →

04官方仓库与量化版

microsoft 官方发布的 2 个仓库。

05Phi 其他模型

全部 18 个 →
模型参数4 位合计发布
Phi-4-reasoning-vision-15B15.1B12.3 GB2026-01-23
Phi-mini-MoE-instruct7.6B / 2.4B6.6 GB2025-06-23
Phi-tiny-MoE-instruct3.8B / 1.1B3.6 GB2025-06-23
Phi-4-mini-flash-reasoning3.85B4.4 GB2025-06-19
Phi-4-mini-reasoning3.84B4.1 GB2025-04-29
Phi-4-reasoning-plus14.7B12.0 GB2025-04-17
Phi-4-reasoning14.7B12.0 GB2025-04-09
Phi-4-mini-instruct3.84B4.1 GB2025-02-19

06来源

数据核对于 2025-12-10。参数、上下文、许可取自官方仓库;显存为本站估算。

数据更新于:自建算力 · 开源模型(北京时间)