Skip to content
简体中文

切换主题

// 阶跃星辰 Step · 视觉语言

Step-3.7-Flash 本地部署与显存需求

总 198B · 激活 11B(MoE) 参数。4 位量化约 136 GB,BF16 约 440 GB(1 个 8K token 请求)。

发布 2026-05-23许可:可商用显存为估算值

01规格

发布方阶跃星辰 · stepfun-ai
系列阶跃星辰 Step · Step-3.7-Flash
类型视觉语言 (image-text-to-text)
参数量总 198B · 激活 11B(MoE) 来源:官方模型卡“a 198B-parameter sparse Mixture-of-Experts (MoE) vision-language model … it activates approximately 11B parameters per token”
上下文长度256K tokens (262,144)取自 config.json 的 max_position_embeddings
结构45 层(12 层全注意力) · 36 层滑动窗口(512) · GQA · MoE
发布权重BF16 · 403 GB下载量
许可Apache-2.0 · 可商用宽松许可(Apache-2.0 / MIT / CC-BY / OpenMDW):允许商用。
发布日期2026-05-23 (Hugging Face 仓库创建日)

02需要多少显存(估算)

合计 = 权重 + 10% + 0.5GB 运行开销 + 1 个请求的 KV 缓存(FP16)。并发用户越多,KV 部分成倍增加。

精度权重合计 @ 8K合计 @ 32K合计 @ 128K最低显卡Mac
BF16 / FP16(原始精度)396 GB 440 GB450 GB488 GB 8 × H100(640GB)—
FP8 / INT8 / Q8_0210 GB 236 GB245 GB284 GB 4 × RTX PRO 6000(384GB)Mac 512GB
4 位量化(Q4_K_M / AWQ / GPTQ-Int4)120 GB 136 GB146 GB185 GB 4 × RTX PRO 6000(384GB)Mac 256GB

每个请求的 KV 缓存:8K 3.8 GB · 32K 13.5 GB · 128K 52.1 GB

每权重比特:BF16 16、FP8 8.5、4 位 4.85。“放得下” = 合计 ≤ 显存 90%;Mac GPU 约可用统一内存的 2/3(≤36GB)或 3/4(更大机型)。MoE 模型所有专家都要进显存,按总参数算。 估算方法 →

03怎么跑

只列厂商或推理框架官方明确支持的方式。

怎么选推理引擎 →

04官方仓库与量化版

stepfun-ai 官方发布的 4 个仓库。

05阶跃星辰 Step 其他模型

全部 12 个 →
模型参数4 位合计发布
Step-5-Preview600B / 27B412 GB2026-09-20
Step-3.5-Flash196B / 11B135 GB2026-02-01
Step-Audio-R1.133.5B25.0 GB2026-01-14
Step3-VL-10B10.2B8.5 GB2026-01-13
Step-Audio-EditX3.53B6.1 GB2025-10-29
Step-Audio-2-mini8.31B6.5 GB2025-08-28
step3321B / 38B247 GB2025-07-28
Step-Audio-AQAA136.7B127 GB2025-06-11

06来源

数据核对于 2026-06-03。参数、上下文、许可取自官方仓库;显存为本站估算。

数据更新于:自建算力 · 开源模型(北京时间)