Skip to content
简体中文

切换主题

// 开源模型显存表 · 系列

Ai2 OLMo / Molmo 本地部署与显存需求

Allen AI(Ai2)发布的 31 个开源权重模型(含量化版共 52 个官方仓库)。4 位量化下从 2.4 GB(OLMo-1B-0724-hf)到 672 GB(FlexOlmo-7x7B-1T)。

官方组织:allenai最新 2026-05-04显存为估算

01文本大模型 (19)

模型参数上下文BF164 位最低显卡(4 位)Mac(4 位)许可发布
Olmo-Hybrid-7B7.43B 64K 17.9 GB6.5 GB 8GB 显卡Mac 16GB 可商用2026-01-28
Olmo-3.1-32B-Instruct32.2B 64K 72.8 GB23.3 GB RTX 5090 32GBMac 64GB 可商用2025-12-10
Olmo-3.1-32B-Think32.2B 64K 72.8 GB23.3 GB RTX 5090 32GBMac 64GB 可商用2025-12-10
Olmo-3-7B-Instruct7.3B 64K 19.2 GB8.0 GB 12GB 显卡Mac 16GB 可商用2025-11-19
Olmo-3-32B-Think32.2B 64K 72.8 GB23.3 GB RTX 5090 32GBMac 64GB 可商用2025-11-19
Olmo-3-7B-Think7.3B 64K 19.2 GB8.0 GB 12GB 显卡Mac 16GB 可商用2025-11-18
Olmo-3-1125-32B32.2B 64K 72.8 GB23.3 GB RTX 5090 32GBMac 64GB 可商用2025-11-04
Olmo-3-1025-7B7.3B 64K 19.2 GB8.0 GB 12GB 显卡Mac 16GB 可商用2025-09-12
FlexOlmo-7x7B-1T1T 4K 2.20 TB672 GB 8 × H200(1,128GB)— 可商用2025-06-11
OLMo-2-0425-1B1.49B 4K 4.8 GB2.6 GB 8GB 显卡Mac 16GB 可商用2025-04-17
OLMo-2-0325-32B-Instruct32.2B 4K 73.6 GB24.1 GB RTX 5090 32GBMac 64GB 可商用2025-03-12
OLMoE-1B-7B-0125-Instruct6.92B 4K 16.8 GB6.2 GB 8GB 显卡Mac 16GB 可商用2025-01-27
Llama-3.1-Tulu-3-405B405.9B 128K 898 GB275 GB 4 × RTX PRO 6000(384GB)Mac 512GB 可商用(有条件)2025-01-09
Llama-3.1-Tulu-3-8B8.03B 128K 19.2 GB6.9 GB 8GB 显卡Mac 16GB 可商用(有条件)2024-11-20
OLMo-2-1124-13B13.7B 4K 37.4 GB16.4 GB RTX 4090 24GBMac 36GB 可商用2024-11-19
OLMo-2-1124-7B7.3B 4K 20.8 GB9.7 GB 12GB 显卡Mac 24GB 可商用2024-10-29
OLMoE-1B-7B-09246.92B 4K 16.8 GB6.2 GB 8GB 显卡Mac 16GB 可商用2024-07-20
OLMo-7B-0724-hf6.89B 4K 19.9 GB9.4 GB 12GB 显卡Mac 16GB 可商用2024-07-12
OLMo-1B-0724-hf1.28B 4K 4.4 GB2.4 GB 8GB 显卡Mac 16GB 可商用2024-06-15

02视觉语言 (12)

模型参数上下文BF164 位最低显卡(4 位)Mac(4 位)许可发布
Molmo2-ER4.85B 16K 12.4 GB4.9 GB 8GB 显卡Mac 16GB 可商用2026-05-04
MolmoWeb-4B ↗4.85B 10K 12.4 GB4.9 GB 8GB 显卡Mac 16GB 可商用2026-03-20
MolmoPoint-8B8.68B 37K 20.8 GB7.5 GB 12GB 显卡Mac 16GB 可商用2026-03-16
Molmo2-4B4.85B 36K 12.4 GB4.9 GB 8GB 显卡Mac 16GB 可商用2025-12-14
Molmo2-8B8.66B 36K 20.8 GB7.5 GB 12GB 显卡Mac 16GB 可商用2025-12-14
Molmo2-O-7B7.76B 64K 21.9 GB10.0 GB 12GB 显卡Mac 24GB 可商用2025-12-14
olmOCR-2-7B-10258.29B 125K 19.2 GB6.5 GB 8GB 显卡Mac 16GB 可商用2025-10-06
olmOCR-7B-0225-preview8.29B 32K 19.2 GB6.5 GB 8GB 显卡Mac 16GB 可商用2025-01-15
Molmo-72B-092473.3B 4K 165 GB52.1 GB 2 × RTX 5090(64GB)Mac 128GB 可商用2024-09-25
Molmo-7B-D-09248.02B 4K 18.6 GB6.3 GB 8GB 显卡Mac 16GB 可商用2024-09-25
Molmo-7B-O-0924 ↗7.67B 4K 21.7 GB9.9 GB 12GB 显卡Mac 24GB 可商用2024-09-25
MolmoE-1B-0924 ↗7.2B / 1.5B 32K 16.3 GB5.3 GB 8GB 显卡Mac 16GB 可商用2024-09-24

03其他系列

通义千问 Qwen · IBM Granite · NVIDIA Nemotron · Gemma · Mistral / Magistral / Devstral · GLM / CogVideoX(智谱) · DeepSeek · 蚂蚁百灵 Ling / Ring / Ming · Liquid LFM · 面壁 MiniCPM / VoxCPM · 腾讯混元 Hunyuan / Hy · Phi · Llama · 美团 LongCat · Jina 向量与重排 · 通义万相 Wan · Kimi · Cohere Command / Aya · 小米 MiMo · FLUX · 微软 VibeVoice / Fara / Harrier · 书生 InternLM / Intern-S · 阶跃星辰 Step · MiniMax · 百度文心 ERNIE · NVIDIA Parakeet / Canary 语音 · Stable Diffusion / Stable Audio · 零一万物 Yi · 字节 Seed · SmolLM / SmolVLM · BGE 向量与重排 · LTX 视频 · FunAudioLLM 语音 · gpt-oss · poolside Laguna · Whisper · 百川 Baichuan · Thinking Machines Inkling · xAI Grok · 小红书 dots

文本模型合计含 10% + 0.5GB 开销和 1 个 8K token 的 KV 缓存。仅为估算。 估算方法 →

数据更新于:自建算力 · 开源模型(北京时间)