Skip to content
简体中文

切换主题

// 开源模型显存表 · 系列

Llama 本地部署与显存需求

Meta发布的 16 个开源权重模型(含量化版共 34 个官方仓库)。4 位量化下从 1.6 GB(Llama-3.2-1B-Instruct)到 275 GB(Llama-3.1-405B)。

官方组织:meta-llama最新 2025-04-28显存为估算

01文本大模型 (6)

模型参数上下文BF164 位最低显卡(4 位)Mac(4 位)许可发布
Llama-3.3-70B-Instruct70.6B 128K 158 GB50.2 GB 2 × RTX 5090(64GB)Mac 128GB 可商用(有条件)2024-11-26
Llama-3.2-1B-Instruct1.24B 128K 3.5 GB1.6 GB 8GB 显卡Mac 16GB 可商用(有条件)2024-09-18
Llama-3.2-3B-Instruct3.21B 128K 8.5 GB3.6 GB 8GB 显卡Mac 16GB 可商用(有条件)2024-09-18
Llama-3.1-8B-Instruct8.03B 128K 19.2 GB6.9 GB 8GB 显卡Mac 16GB 可商用(有条件)2024-07-18
Llama-3.1-70B-Instruct70.6B 128K 158 GB50.2 GB 2 × RTX 5090(64GB)Mac 128GB 可商用(有条件)2024-07-16
Llama-3.1-405B405.9B 128K 898 GB275 GB 4 × RTX PRO 6000(384GB)Mac 512GB 可商用(有条件)2024-07-16

02视觉语言 (3)

模型参数上下文BF164 位最低显卡(4 位)Mac(4 位)许可发布
Llama-4-Scout-17B-16E-Instruct108.6B — 240 GB73.0 GB RTX PRO 6000 96GBMac 128GB 可商用(有条件)2025-04-02
Llama-4-Maverick-17B-128E-Instruct401.6B — 884 GB268 GB 4 × RTX PRO 6000(384GB)Mac 512GB 可商用(有条件)2025-04-01
Llama-3.2-11B-Vision-Instruct10.7B — 24.0 GB7.6 GB 12GB 显卡Mac 16GB 可商用(有条件)2024-09-18

03安全审核 (7)

模型参数上下文BF164 位最低显卡(4 位)Mac(4 位)许可发布
Llama-Prompt-Guard-2-22M71M — 0.7 GB0.5 GB 8GB 显卡Mac 16GB 可商用(有条件)2025-04-28
Llama-Prompt-Guard-2-86M279M — 1.1 GB0.7 GB 8GB 显卡Mac 16GB 可商用(有条件)2025-04-28
Llama-Guard-4-12B12B — 26.9 GB8.5 GB 12GB 显卡Mac 16GB 可商用(有条件)2025-04-23
Llama-Guard-3-1B1.5B — 3.8 GB1.5 GB 8GB 显卡Mac 16GB 可商用(有条件)2024-09-20
Llama-Guard-3-11B-Vision ↗10.7B — 24.0 GB7.6 GB 12GB 显卡Mac 16GB 可商用(有条件)2024-09-20
Llama-Guard-3-8B8.03B — 18.2 GB5.9 GB 8GB 显卡Mac 16GB 可商用(有条件)2024-07-22
Prompt-Guard-86M279M — 1.1 GB0.7 GB 8GB 显卡Mac 16GB 可商用(有条件)2024-07-21

04其他系列

通义千问 Qwen · IBM Granite · NVIDIA Nemotron · Gemma · Mistral / Magistral / Devstral · GLM / CogVideoX(智谱) · DeepSeek · Ai2 OLMo / Molmo · 蚂蚁百灵 Ling / Ring / Ming · Liquid LFM · 面壁 MiniCPM / VoxCPM · 腾讯混元 Hunyuan / Hy · Phi · 美团 LongCat · Jina 向量与重排 · 通义万相 Wan · Kimi · Cohere Command / Aya · 小米 MiMo · FLUX · 微软 VibeVoice / Fara / Harrier · 书生 InternLM / Intern-S · 阶跃星辰 Step · MiniMax · 百度文心 ERNIE · NVIDIA Parakeet / Canary 语音 · Stable Diffusion / Stable Audio · 零一万物 Yi · 字节 Seed · SmolLM / SmolVLM · BGE 向量与重排 · LTX 视频 · FunAudioLLM 语音 · gpt-oss · poolside Laguna · Whisper · 百川 Baichuan · Thinking Machines Inkling · xAI Grok · 小红书 dots

文本模型合计含 10% + 0.5GB 开销和 1 个 8K token 的 KV 缓存。仅为估算。 估算方法 →

数据更新于:自建算力 · 开源模型(北京时间)