Skip to content
简体中文

切换主题

// 开源模型显存表 · 系列

IBM Granite 本地部署与显存需求

IBM发布的 67 个开源权重模型(含量化版共 147 个官方仓库)。4 位量化下从 0.8 GB(granite-4.0-h-350m)到 22.7 GB(granite-switch-4.1-30b)。

官方组织:ibm-granite最新 2026-10-14显存为估算

01文本大模型 (32)

模型参数上下文BF164 位最低显卡(4 位)Mac(4 位)许可发布
granite-switch-4.1-8b8.78B 128K 21.2 GB7.8 GB 12GB 显卡Mac 16GB 可商用2026-10-14
granite-switch-4.1-30b30B 128K 68.7 GB22.7 GB RTX 5090 32GBMac 64GB 可商用2026-10-14
ensemble-forecasting-with-ibm-granite-time-series— — —— —— 模型卡未写许可2026-10-01
granite-4.2-3b3.66B 128K 9.2 GB3.6 GB 8GB 显卡Mac 16GB 可商用2026-08-07
granite-4.2-8b8.79B 128K 21.2 GB7.7 GB 12GB 显卡Mac 16GB 可商用2026-08-07
granite-4.2-30b29.3B 128K 67.1 GB22.2 GB RTX 5090 32GBMac 64GB 可商用2026-08-07
granite-4.1-3b3.4B 128K 8.7 GB3.4 GB 8GB 显卡Mac 16GB 可商用2026-04-06
granite-4.1-8b8.79B 128K 21.2 GB7.7 GB 12GB 显卡Mac 16GB 可商用2026-04-06
granite-4.1-30b28.9B 128K 66.2 GB21.9 GB RTX 5090 32GBMac 64GB 可商用2026-04-06
granitelib-core-r1.0— — —— —— 可商用2025-12-10
granite-4.0-350m352M 32K 1.5 GB1.0 GB 8GB 显卡Mac 16GB 可商用2025-10-07
granite-4.0-1b1.63B 128K 4.8 GB2.3 GB 8GB 显卡Mac 16GB 可商用2025-10-07
granite-4.0-h-350m340M 32K 1.3 GB0.8 GB 8GB 显卡Mac 16GB 可商用2025-10-07
granite-4.0-h-1b1.46B 128K 3.8 GB1.5 GB 8GB 显卡Mac 16GB 可商用2025-10-07
granite-4.0-h-micro3.19B 128K 7.6 GB2.7 GB 8GB 显卡Mac 16GB 可商用2025-09-16
granite-4.0-h-small32.2B 128K 71.5 GB22.1 GB RTX 5090 32GBMac 64GB 可商用2025-09-16
granite-4.0-h-tiny6.94B 128K 15.8 GB5.2 GB 8GB 显卡Mac 16GB 可商用2025-09-16
granite-4.0-micro3.4B 128K 8.7 GB3.4 GB 8GB 显卡Mac 16GB 可商用2025-09-16
granite-4.0-tiny-preview6.67B 128K 15.2 GB5.0 GB 8GB 显卡Mac 16GB 可商用2025-04-30
granite-3.3-2b-instruct2.53B 128K 6.7 GB2.9 GB 8GB 显卡Mac 16GB 可商用2025-04-09
granite-3.3-8b-instruct8.17B 128K 19.8 GB7.3 GB 12GB 显卡Mac 16GB 可商用2025-04-09
granite-3.2-2b-instruct2.53B 128K 6.7 GB2.9 GB 8GB 显卡Mac 16GB 可商用2025-02-17
granite-3.2-8b-instruct8.17B 128K 19.8 GB7.3 GB 12GB 显卡Mac 16GB 可商用2025-02-17
granite-3.1-2b-instruct2.53B 128K 6.7 GB2.9 GB 8GB 显卡Mac 16GB 可商用2024-12-06
granite-3.1-8b-instruct8.17B 128K 19.8 GB7.3 GB 12GB 显卡Mac 16GB 可商用2024-12-06
granite-3.1-1b-a400m-instruct1.33B 128K 3.8 GB1.8 GB 8GB 显卡Mac 16GB 可商用2024-12-06
granite-3.1-3b-a800m-instruct3.3B 128K 8.3 GB3.2 GB 8GB 显卡Mac 16GB 可商用2024-12-06
granite-3.0-1b-a400m-instruct1.33B / 400M 4K 3.8 GB1.8 GB 8GB 显卡Mac 16GB 可商用2024-10-03
granite-3.0-3b-a800m-instruct3.37B / 800M 4K 8.5 GB3.3 GB 8GB 显卡Mac 16GB 可商用2024-10-03
granite-3.0-2b-instruct2.63B 4K 7.0 GB2.9 GB 8GB 显卡Mac 16GB 可商用2024-10-02
granite-3.0-8b-instruct8.17B 4K 19.8 GB7.3 GB 12GB 显卡Mac 16GB 可商用2024-10-02
granite-8b-code-instruct-128k ↗8.05B 125K 19.4 GB7.1 GB 8GB 显卡Mac 16GB 可商用2024-07-12

02视觉语言 (5)

模型参数上下文BF164 位最低显卡(4 位)Mac(4 位)许可发布
granite-vision-4.1-4b4B 128K 10.0 GB3.8 GB 8GB 显卡Mac 16GB 可商用2026-04-16
granite-4.0-3b-vision4B 128K 10.0 GB3.8 GB 8GB 显卡Mac 16GB 可商用2026-03-03
granite-vision-3.3-2b2.98B 128K 7.7 GB3.2 GB 8GB 显卡Mac 16GB 可商用2025-06-03
granite-docling-258M258M 8K 1.3 GB0.9 GB 8GB 显卡Mac 16GB 可商用2025-05-19
granite-vision-3.2-2b2.98B 128K 7.7 GB3.2 GB 8GB 显卡Mac 16GB 可商用2025-02-17

03向量模型 (10)

模型参数BF164 位最低显卡(4 位)Mac(4 位)许可发布
granite-embedding-97m-multilingual-r297M 0.7 GB0.6 GB 8GB 显卡Mac 16GB 可商用2026-04-20
granite-embedding-311m-multilingual-r2312M 1.2 GB0.7 GB 8GB 显卡Mac 16GB 可商用2026-04-20
granite-speech-4.1-2b-nar2.25B 5.5 GB2.0 GB 8GB 显卡Mac 16GB 可商用2026-03-10
granite-embedding-english-r2149M 0.8 GB0.6 GB 8GB 显卡Mac 16GB 可商用2025-07-17
granite-embedding-small-english-r248M 0.6 GB0.5 GB 8GB 显卡Mac 16GB 可商用2025-07-17
granite-embedding-30m-sparse30M 0.6 GB0.5 GB 8GB 显卡Mac 16GB 可商用2025-02-17
granite-embedding-30m-english30M 0.6 GB0.5 GB 8GB 显卡Mac 16GB 可商用2024-12-04
granite-embedding-125m-english125M 0.8 GB0.6 GB 8GB 显卡Mac 16GB 可商用2024-12-04
granite-embedding-107m-multilingual107M 0.7 GB0.6 GB 8GB 显卡Mac 16GB 可商用2024-12-04
granite-embedding-278m-multilingual278M 1.1 GB0.7 GB 8GB 显卡Mac 16GB 可商用2024-12-04

04重排模型 (1)

模型参数BF164 位最低显卡(4 位)Mac(4 位)许可发布
granite-embedding-reranker-english-r2150M 0.8 GB0.6 GB 8GB 显卡Mac 16GB 可商用2025-08-04

05语音识别 (9)

模型参数BF164 位最低显卡(4 位)Mac(4 位)许可发布
granite-speech-5.0-2b2.31B 5.6 GB2.0 GB 8GB 显卡Mac 16GB 可商用2026-10-07
granite-speech-5.0-470m-turboctc-nc473M 1.5 GB0.8 GB 8GB 显卡Mac 16GB 仅限非商用2026-08-17
granite-speech-5.0-470m-turboctc473M 1.5 GB0.8 GB 8GB 显卡Mac 16GB 可商用2026-08-04
granite-speech-4.1-2b2.31B 5.6 GB2.0 GB 8GB 显卡Mac 16GB 可商用2026-04-16
granite-speech-4.1-2b-plus2.11B 5.1 GB1.9 GB 8GB 显卡Mac 16GB 可商用2026-04-16
granite-4.0-1b-speech2.31B 5.6 GB2.0 GB 8GB 显卡Mac 16GB 可商用2026-02-27
granite-speech-3.3-2b3.01B 7.1 GB2.5 GB 8GB 显卡Mac 16GB 可商用2025-04-28
granite-speech-3.3-8b8.65B 19.5 GB6.3 GB 8GB 显卡Mac 16GB 可商用2025-04-14
granite-speech-3.2-8b8.48B 19.2 GB6.2 GB 8GB 显卡Mac 16GB 可商用2025-03-26

06安全审核 (10)

模型参数上下文BF164 位最低显卡(4 位)Mac(4 位)许可发布
granite-guardian-4.1-8b8.38B 128K 20.3 GB7.4 GB 12GB 显卡Mac 16GB 可商用2026-04-16
granitelib-guardian-r1.0 ↗— — —— —— 可商用2026-02-02
granite-guardian-3.3-8b8.17B 128K 19.8 GB7.3 GB 12GB 显卡Mac 16GB 可商用2025-06-03
granite-guardian-3.2-3b-a800m ↗3.3B 128K 8.3 GB3.2 GB 8GB 显卡Mac 16GB 可商用2025-02-03
granite-guardian-3.2-5b ↗5.78B 128K 14.2 GB5.3 GB 8GB 显卡Mac 16GB 可商用2025-01-23
granite-guardian-3.1-2b ↗2.53B 128K 6.7 GB2.9 GB 8GB 显卡Mac 16GB 可商用2024-12-17
granite-guardian-3.1-8b ↗8.17B 128K 19.8 GB7.3 GB 12GB 显卡Mac 16GB 可商用2024-12-17
granite-guardian-3.0-2b2.53B 8K 6.7 GB2.9 GB 8GB 显卡Mac 16GB 可商用2024-10-15
granite-guardian-hap-38m ↗38M 1K 0.7 GB0.6 GB 8GB 显卡Mac 16GB 可商用2024-09-05
granite-guardian-hap-125m ↗125M 1K 1.1 GB0.9 GB 8GB 显卡Mac 16GB 可商用2024-09-05

07其他系列

通义千问 Qwen · NVIDIA Nemotron · Gemma · Mistral / Magistral / Devstral · GLM / CogVideoX(智谱) · DeepSeek · Ai2 OLMo / Molmo · 蚂蚁百灵 Ling / Ring / Ming · Liquid LFM · 面壁 MiniCPM / VoxCPM · 腾讯混元 Hunyuan / Hy · Phi · Llama · 美团 LongCat · Jina 向量与重排 · 通义万相 Wan · Kimi · Cohere Command / Aya · 小米 MiMo · FLUX · 微软 VibeVoice / Fara / Harrier · 书生 InternLM / Intern-S · 阶跃星辰 Step · MiniMax · 百度文心 ERNIE · NVIDIA Parakeet / Canary 语音 · Stable Diffusion / Stable Audio · 零一万物 Yi · 字节 Seed · SmolLM / SmolVLM · BGE 向量与重排 · LTX 视频 · FunAudioLLM 语音 · gpt-oss · poolside Laguna · Whisper · 百川 Baichuan · Thinking Machines Inkling · xAI Grok · 小红书 dots

文本模型合计含 10% + 0.5GB 开销和 1 个 8K token 的 KV 缓存。仅为估算。 估算方法 →

数据更新于:自建算力 · 开源模型(北京时间)