Skip to content
简体中文

切换主题

// DeepSeek · 视觉语言

DeepSeek-V4.1-Flash-1017 本地部署与显存需求

总 748B · 激活 16B(MoE) 参数。4 位量化约 499 GB,BF16 约 1.65 TB。

发布 2026-10-17许可:可商用显存为估算值

01规格

发布方深度求索 · deepseek-ai
系列DeepSeek · DeepSeek-Flash
类型视觉语言 (image-text-to-text)
参数量总 748B · 激活 16B(MoE) 来源:官方模型卡“Same architecture as DeepSeek-V4.1-Flash per its card: 552B backbone + 196B Engram; 8B (prefill) / 16B (decode) activated”
上下文长度1M tokens (1,048,576)取自 config.json 的 max_position_embeddings
结构40 层 · GQA · MoE
发布权重量化打包张量(I8,如 MXFP4 / INT4) · 510 GB下载量
许可MIT · 可商用宽松许可(Apache-2.0 / MIT / CC-BY / OpenMDW):允许商用。
发布日期2026-10-17 (Hugging Face 仓库创建日)

02需要多少显存(估算)

合计 = 权重 + 10% + 0.5GB 运行开销 + 1 个请求的 KV 缓存(FP16)。并发用户越多,KV 部分成倍增加。

精度权重最低显卡Mac
BF16 / FP16(原始精度)1.50 TB 8 × B300(2,304GB)—
FP8 / INT8 / Q8_0795 GB 8 × H200(1,128GB)—
4 位量化(Q4_K_M / AWQ / GPTQ-Int4)453 GB 8 × H100(640GB)—

KV 缓存未估算:该模型采用新型压缩 / 稀疏注意力,本站公式不适用。上表合计只含权重 + 开销。

每权重比特:BF16 16、FP8 8.5、4 位 4.85。“放得下” = 合计 ≤ 显存 90%;Mac GPU 约可用统一内存的 2/3(≤36GB)或 3/4(更大机型)。MoE 模型所有专家都要进显存,按总参数算。 估算方法 →

03怎么跑

只列厂商或推理框架官方明确支持的方式。

怎么选推理引擎 →

04官方仓库与量化版

deepseek-ai 官方发布的 1 个仓库。

05DeepSeek 其他模型

全部 34 个 →
模型参数4 位合计发布
DeepSeek-V4-Flash · 同系列284B / 13B190 GB2026-04-22
DeepSeek-V4-Flash-0731 · 同系列304.2B203 GB2026-07-31
DeepSeek-V4.1-Flash · 同系列748B / 16B499 GB2026-09-10
DeepSeek-V4-Pro-08131.65T1.10 TB2026-08-13
DeepSeek-V4-Pro1.6T / 49B1.07 TB2026-04-22
DeepSeek-OCR-23.39B3.3 GB2026-01-27
DeepSeek-V3.2685.4B458 GB2025-12-01
DeepSeek-V3.2-Speciale685.4B458 GB2025-11-28
DeepSeek-OCR3.34B3.2 GB2025-10-17
DeepSeek-V3.2-Exp-Base685.4B458 GB2025-09-29
DeepSeek-V3.1-Base671B / 37B449 GB2025-08-19

06来源

数据核对于 2026-10-17。参数、上下文、许可取自官方仓库;显存为本站估算。

数据更新于:自建算力 · 开源模型(北京时间)