// Gemma · 文本大模型

gemma-2-2b-jpn-it 本地部署与显存需求

Name: gemma-2-2b-jpn-it
Author: Google

2.61B 参数。4 位量化约 2.2 GB，BF16 约 6.3 GB。

发布 2024-09-25许可：可商用（有条件）显存为估算值

01规格

发布方	Google · google
系列	Gemma · gemma-2-jpn
类型	文本大模型 (text-generation)
参数量	2.61B 来源：按官方 safetensors 权重统计
上下文长度	—
发布权重	BF16 · 5.2 GB下载量
许可	Gemma Terms of Use · 可商用（有条件）可商用，但受厂商自有许可条款约束（用户量上限、使用政策、署名或地区限制等），上线前请阅读原文。
发布日期	2024-09-25 （Hugging Face 仓库创建日）
下载	受限仓库：需在 Hugging Face 同意许可后才能下载。

合计 = 权重 + 10% + 0.5GB 运行开销 + 1 个请求的 KV 缓存（FP16）。并发用户越多，KV 部分成倍增加。

KV 缓存未估算：官方 config.json 受限访问或缺少注意力参数。上表合计只含权重 + 开销。

每权重比特：BF16 16、FP8 8.5、4 位 4.85。“放得下” = 合计 ≤ 显存 90%；Mac GPU 约可用统一内存的 2/3（≤36GB）或 3/4（更大机型）。MoE 模型所有专家都要进显存，按总参数算。估算方法 →

只列厂商或推理框架官方明确支持的方式。

google 官方发布的 1 个仓库。

模型	参数	4 位合计	发布
embeddinggemma-2	744M	1.0 GB	2026-09-14
diffusiongemma-26B-A4B-it	25.8B / 4B	18.3 GB	2026-06-09
gemma-4-12B-it-qat-q4_0-unquantized	12B	9.3 GB	2026-06-04
gemma-4-12B-it	12B	9.3 GB	2026-05-23
gemma-4-E4B-it-qat-q4_0-unquantized	7.94B	5.9 GB	2026-04-30
gemma-4-E2B-it-qat-q4_0-unquantized	5.1B	4.0 GB	2026-04-29
gemma-4-26B-A4B-it-qat-q4_0-unquantized	25.8B / 4B	18.3 GB	2026-04-29
gemma-4-31B-it-qat-q4_0-unquantized	31.3B	23.5 GB	2026-04-28

数据核对于 2024-10-02。参数、上下文、许可取自官方仓库；显存为本站估算。