01文本大模型 (6)
| 模型 | 参数 | 上下文 | BF16 | 4 位 | 最低显卡(4 位) | Mac(4 位) | 许可 | 发布 |
|---|---|---|---|---|---|---|---|---|
| Llama-3.3-70B-Instruct | 70.6B | 128K | 158 GB | 50.2 GB | 2 × RTX 5090(64GB) | Mac 128GB | 可商用(有条件) | 2024-11-26 |
| Llama-3.2-1B-Instruct | 1.24B | 128K | 3.5 GB | 1.6 GB | 8GB 显卡 | Mac 16GB | 可商用(有条件) | 2024-09-18 |
| Llama-3.2-3B-Instruct | 3.21B | 128K | 8.5 GB | 3.6 GB | 8GB 显卡 | Mac 16GB | 可商用(有条件) | 2024-09-18 |
| Llama-3.1-8B-Instruct | 8.03B | 128K | 19.2 GB | 6.9 GB | 8GB 显卡 | Mac 16GB | 可商用(有条件) | 2024-07-18 |
| Llama-3.1-70B-Instruct | 70.6B | 128K | 158 GB | 50.2 GB | 2 × RTX 5090(64GB) | Mac 128GB | 可商用(有条件) | 2024-07-16 |
| Llama-3.1-405B | 405.9B | 128K | 898 GB | 275 GB | 4 × RTX PRO 6000(384GB) | Mac 512GB | 可商用(有条件) | 2024-07-16 |
02视觉语言 (3)
| 模型 | 参数 | 上下文 | BF16 | 4 位 | 最低显卡(4 位) | Mac(4 位) | 许可 | 发布 |
|---|---|---|---|---|---|---|---|---|
| Llama-4-Scout-17B-16E-Instruct | 108.6B | — | 240 GB | 73.0 GB | RTX PRO 6000 96GB | Mac 128GB | 可商用(有条件) | 2025-04-02 |
| Llama-4-Maverick-17B-128E-Instruct | 401.6B | — | 884 GB | 268 GB | 4 × RTX PRO 6000(384GB) | Mac 512GB | 可商用(有条件) | 2025-04-01 |
| Llama-3.2-11B-Vision-Instruct | 10.7B | — | 24.0 GB | 7.6 GB | 12GB 显卡 | Mac 16GB | 可商用(有条件) | 2024-09-18 |
03安全审核 (7)
| 模型 | 参数 | 上下文 | BF16 | 4 位 | 最低显卡(4 位) | Mac(4 位) | 许可 | 发布 |
|---|---|---|---|---|---|---|---|---|
| Llama-Prompt-Guard-2-22M | 71M | — | 0.7 GB | 0.5 GB | 8GB 显卡 | Mac 16GB | 可商用(有条件) | 2025-04-28 |
| Llama-Prompt-Guard-2-86M | 279M | — | 1.1 GB | 0.7 GB | 8GB 显卡 | Mac 16GB | 可商用(有条件) | 2025-04-28 |
| Llama-Guard-4-12B | 12B | — | 26.9 GB | 8.5 GB | 12GB 显卡 | Mac 16GB | 可商用(有条件) | 2025-04-23 |
| Llama-Guard-3-1B | 1.5B | — | 3.8 GB | 1.5 GB | 8GB 显卡 | Mac 16GB | 可商用(有条件) | 2024-09-20 |
| Llama-Guard-3-11B-Vision ↗ | 10.7B | — | 24.0 GB | 7.6 GB | 12GB 显卡 | Mac 16GB | 可商用(有条件) | 2024-09-20 |
| Llama-Guard-3-8B | 8.03B | — | 18.2 GB | 5.9 GB | 8GB 显卡 | Mac 16GB | 可商用(有条件) | 2024-07-22 |
| Prompt-Guard-86M | 279M | — | 1.1 GB | 0.7 GB | 8GB 显卡 | Mac 16GB | 可商用(有条件) | 2024-07-21 |
04其他系列
通义千问 Qwen · IBM Granite · NVIDIA Nemotron · Gemma · Mistral / Magistral / Devstral · GLM / CogVideoX(智谱) · DeepSeek · Ai2 OLMo / Molmo · 蚂蚁百灵 Ling / Ring / Ming · Liquid LFM · 面壁 MiniCPM / VoxCPM · 腾讯混元 Hunyuan / Hy · Phi · 美团 LongCat · Jina 向量与重排 · 通义万相 Wan · Kimi · Cohere Command / Aya · 小米 MiMo · FLUX · 微软 VibeVoice / Fara / Harrier · 书生 InternLM / Intern-S · 阶跃星辰 Step · MiniMax · 百度文心 ERNIE · NVIDIA Parakeet / Canary 语音 · Stable Diffusion / Stable Audio · 零一万物 Yi · 字节 Seed · SmolLM / SmolVLM · BGE 向量与重排 · LTX 视频 · FunAudioLLM 语音 · gpt-oss · poolside Laguna · Whisper · 百川 Baichuan · Thinking Machines Inkling · xAI Grok · 小红书 dots
文本模型合计含 10% + 0.5GB 开销和 1 个 8K token 的 KV 缓存。仅为估算。 估算方法 →