Skip to content
简体中文

切换主题

// 面壁 MiniCPM / VoxCPM · 视觉语言

MiniCPM-V-4.7-1B 本地部署与显存需求

1.55B 参数。4 位量化约 1.6 GB,BF16 约 4.0 GB(1 个 8K token 请求)。

发布 2026-10-06许可:可商用显存为估算值

01规格

发布方面壁智能 OpenBMB · openbmb
系列面壁 MiniCPM / VoxCPM · MiniCPM-V-4.7
类型视觉语言 (image-text-to-text)
参数量1.55B 来源:按官方 safetensors 权重统计
上下文长度256K tokens (262,144)取自 config.json 的 max_position_embeddings
结构24 层(6 层全注意力) · GQA+HYBRID
发布权重BF16 · 3.1 GB下载量
许可Apache-2.0 · 可商用宽松许可(Apache-2.0 / MIT / CC-BY / OpenMDW):允许商用。
发布日期2026-10-06 (Hugging Face 仓库创建日)

02需要多少显存(估算)

合计 = 权重 + 10% + 0.5GB 运行开销 + 1 个请求的 KV 缓存(FP16)。并发用户越多,KV 部分成倍增加。

精度权重合计 @ 8K合计 @ 32K合计 @ 128K最低显卡Mac
BF16 / FP16(原始精度)3.1 GB 4.0 GB4.3 GB5.5 GB 8GB 显卡Mac 16GB
FP8 / INT8 / Q8_01.6 GB 2.4 GB2.7 GB3.9 GB 8GB 显卡Mac 16GB
4 位量化(Q4_K_M / AWQ / GPTQ-Int4)0.9 GB 1.6 GB1.9 GB3.1 GB 8GB 显卡Mac 16GB

每个请求的 KV 缓存:8K 0.1 GB · 32K 0.4 GB · 128K 1.6 GB

每权重比特:BF16 16、FP8 8.5、4 位 4.85。“放得下” = 合计 ≤ 显存 90%;Mac GPU 约可用统一内存的 2/3(≤36GB)或 3/4(更大机型)。MoE 模型所有专家都要进显存,按总参数算。 估算方法 →

03怎么跑

只列厂商或推理框架官方明确支持的方式。

怎么选推理引擎 →

04官方仓库与量化版

openbmb 官方发布的 5 个仓库。

05面壁 MiniCPM / VoxCPM 其他模型

全部 23 个 →
模型参数4 位合计发布
MiniCPM-V-4.7-35B-A3B · 同系列35.2B / 3B24.2 GB2026-10-07
MiniCPM5-2B2.52B2.5 GB2026-09-06
MiniCPM5-1B1.08B1.4 GB2026-05-21
MiniCPM-V-4.6-Thinking1.3B1.5 GB2026-05-08
MiniCPM-V-4.61.3B1.5 GB2026-04-13
VoxCPM22.29B2.0 GB2026-04-03
MiniCPM-SALA9.48B7.1 GB2026-02-11
MiniCPM-o-4_59.37B8.0 GB2026-02-03
VoxCPM1.5802M1.0 GB2025-12-05

06来源

数据核对于 2026-10-19。参数、上下文、许可取自官方仓库;显存为本站估算。

数据更新于:自建算力 · 开源模型(北京时间)