01文本大模型 (7)
| 模型 | 参数 | 上下文 | BF16 | 4 位 | 最低显卡(4 位) | Mac(4 位) | 许可 | 发布 |
|---|---|---|---|---|---|---|---|---|
| SmolLM3-3B | 3.08B | 64K | 7.9 GB | 3.2 GB | 8GB 显卡 | Mac 16GB | 可商用 | 2025-07-08 |
| SmolLM2-135M | 135M | 8K | 1.0 GB | 0.8 GB | 8GB 显卡 | Mac 16GB | 可商用 | 2024-10-31 |
| SmolLM2-360M | 362M | 8K | 1.6 GB | 1.1 GB | 8GB 显卡 | Mac 16GB | 可商用 | 2024-10-31 |
| SmolLM2-1.7B | 1.71B | 8K | 5.9 GB | 3.3 GB | 8GB 显卡 | Mac 16GB | 可商用 | 2024-10-30 |
| SmolLM-135M | 135M | 2K | 1.0 GB | 0.8 GB | 8GB 显卡 | Mac 16GB | 可商用 | 2024-07-14 |
| SmolLM-360M | 362M | 2K | 1.6 GB | 1.1 GB | 8GB 显卡 | Mac 16GB | 可商用 | 2024-07-14 |
| SmolLM-1.7B | 1.71B | 2K | 5.9 GB | 3.3 GB | 8GB 显卡 | Mac 16GB | 可商用 | 2024-07-14 |
02视觉语言 (1)
| 模型 | 参数 | 上下文 | BF16 | 4 位 | 最低显卡(4 位) | Mac(4 位) | 许可 | 发布 |
|---|---|---|---|---|---|---|---|---|
| SmolVLM2-2.2B-Instruct | 2.25B | 8K | 5.4 GB | 2.0 GB | 8GB 显卡 | Mac 16GB | 可商用 | 2025-02-08 |
03其他系列
通义千问 Qwen · IBM Granite · NVIDIA Nemotron · Gemma · Mistral / Magistral / Devstral · GLM / CogVideoX(智谱) · DeepSeek · Ai2 OLMo / Molmo · 蚂蚁百灵 Ling / Ring / Ming · Liquid LFM · 面壁 MiniCPM / VoxCPM · 腾讯混元 Hunyuan / Hy · Phi · Llama · 美团 LongCat · Jina 向量与重排 · 通义万相 Wan · Kimi · Cohere Command / Aya · 小米 MiMo · FLUX · 微软 VibeVoice / Fara / Harrier · 书生 InternLM / Intern-S · 阶跃星辰 Step · MiniMax · 百度文心 ERNIE · NVIDIA Parakeet / Canary 语音 · Stable Diffusion / Stable Audio · 零一万物 Yi · 字节 Seed · BGE 向量与重排 · LTX 视频 · FunAudioLLM 语音 · gpt-oss · poolside Laguna · Whisper · 百川 Baichuan · Thinking Machines Inkling · xAI Grok · 小红书 dots
文本模型合计含 10% + 0.5GB 开销和 1 个 8K token 的 KV 缓存。仅为估算。 估算方法 →