Skip to content
简体中文

切换主题

// 微软 VibeVoice / Fara / Harrier · 向量模型

harrier-oss-v1-27b 本地部署与显存需求

27B 参数。4 位量化约 18.5 GB,BF16 约 59.9 GB。

发布 2026-03-30许可:可商用显存为估算值

01规格

发布方微软 · microsoft
系列微软 VibeVoice / Fara / Harrier · harrier-oss
类型向量模型 (feature-extraction)
参数量27B 来源:按官方 safetensors 权重统计
发布权重BF16 · 54.0 GB下载量
许可MIT · 可商用宽松许可(Apache-2.0 / MIT / CC-BY / OpenMDW):允许商用。
发布日期2026-03-30 (Hugging Face 仓库创建日)

02需要多少显存(估算)

向量模型体量小,显存随批量和序列长度增长。

精度权重权重 + 开销最低显卡Mac
BF16 / FP16(原始精度)54.0 GB 59.9 GB H100 80GBMac 128GB
FP8 / INT8 / Q8_028.7 GB 32.1 GB 2 × RTX 5090(64GB)Mac 64GB
4 位量化(Q4_K_M / AWQ / GPTQ-Int4)16.4 GB 18.5 GB RTX 4090 24GBMac 36GB

每权重比特:BF16 16、FP8 8.5、4 位 4.85。“放得下” = 合计 ≤ 显存 90%;Mac GPU 约可用统一内存的 2/3(≤36GB)或 3/4(更大机型)。MoE 模型所有专家都要进显存,按总参数算。 估算方法 →

03怎么跑

只列厂商或推理框架官方明确支持的方式。

怎么选推理引擎 →

04官方仓库与量化版

microsoft 官方发布的 1 个仓库。

05微软 VibeVoice / Fara / Harrier 其他模型

全部 12 个 →
模型参数4 位合计发布
harrier-oss-v1-270m · 同系列268M0.7 GB2026-03-30
harrier-oss-v1-0.6b · 同系列596M0.9 GB2026-03-30
VibeVoice-ASR-Streaming-1.5B2.81B2.4 GB2026-09-02
VibeVoice-ASR-Streaming-7B8.67B6.3 GB2026-09-02
Fara1.5-4B4.54B3.8 GB2026-07-17
Fara1.5-27B27.4B19.3 GB2026-07-17
Fara1.5-9B9.41B7.0 GB2026-05-12
VibeVoice-ASR8.67B6.3 GB2026-01-21
VibeVoice-Realtime-0.5B1.02B1.2 GB2025-12-04
Fara-7B8.29B6.5 GB2025-10-30

06来源

数据核对于 2026-03-30。参数、上下文、许可取自官方仓库;显存为本站估算。

数据更新于:自建算力 · 开源模型(北京时间)