Skip to content
简体中文

切换主题

// 开源模型显存表 · 系列

SmolLM / SmolVLM 本地部署与显存需求

Hugging Face发布的 8 个开源权重模型(含量化版共 27 个官方仓库)。4 位量化下从 0.8 GB(SmolLM2-135M)到 3.3 GB(SmolLM2-1.7B)。

官方组织:HuggingFaceTB最新 2025-07-08显存为估算

01文本大模型 (7)

模型参数上下文BF164 位最低显卡(4 位)Mac(4 位)许可发布
SmolLM3-3B3.08B 64K 7.9 GB3.2 GB 8GB 显卡Mac 16GB 可商用2025-07-08
SmolLM2-135M135M 8K 1.0 GB0.8 GB 8GB 显卡Mac 16GB 可商用2024-10-31
SmolLM2-360M362M 8K 1.6 GB1.1 GB 8GB 显卡Mac 16GB 可商用2024-10-31
SmolLM2-1.7B1.71B 8K 5.9 GB3.3 GB 8GB 显卡Mac 16GB 可商用2024-10-30
SmolLM-135M135M 2K 1.0 GB0.8 GB 8GB 显卡Mac 16GB 可商用2024-07-14
SmolLM-360M362M 2K 1.6 GB1.1 GB 8GB 显卡Mac 16GB 可商用2024-07-14
SmolLM-1.7B1.71B 2K 5.9 GB3.3 GB 8GB 显卡Mac 16GB 可商用2024-07-14

02视觉语言 (1)

模型参数上下文BF164 位最低显卡(4 位)Mac(4 位)许可发布
SmolVLM2-2.2B-Instruct2.25B 8K 5.4 GB2.0 GB 8GB 显卡Mac 16GB 可商用2025-02-08

03其他系列

通义千问 Qwen · IBM Granite · NVIDIA Nemotron · Gemma · Mistral / Magistral / Devstral · GLM / CogVideoX(智谱) · DeepSeek · Ai2 OLMo / Molmo · 蚂蚁百灵 Ling / Ring / Ming · Liquid LFM · 面壁 MiniCPM / VoxCPM · 腾讯混元 Hunyuan / Hy · Phi · Llama · 美团 LongCat · Jina 向量与重排 · 通义万相 Wan · Kimi · Cohere Command / Aya · 小米 MiMo · FLUX · 微软 VibeVoice / Fara / Harrier · 书生 InternLM / Intern-S · 阶跃星辰 Step · MiniMax · 百度文心 ERNIE · NVIDIA Parakeet / Canary 语音 · Stable Diffusion / Stable Audio · 零一万物 Yi · 字节 Seed · BGE 向量与重排 · LTX 视频 · FunAudioLLM 语音 · gpt-oss · poolside Laguna · Whisper · 百川 Baichuan · Thinking Machines Inkling · xAI Grok · 小红书 dots

文本模型合计含 10% + 0.5GB 开销和 1 个 8K token 的 KV 缓存。仅为估算。 估算方法 →

数据更新于:自建算力 · 开源模型(北京时间)