Skip to content
简体中文

切换主题

// Mistral / Magistral / Devstral · 文本大模型

LIDstral-Arabic 本地部署与显存需求

Mistral AI发布的文本大模型模型。

发布 2026-10-08许可:可商用显存为估算值

01规格

发布方Mistral AI · mistralai
系列Mistral / Magistral / Devstral · LIDstral-Arabic
类型文本大模型 (text-classification)
参数量官方元数据未给出
上下文长度—
许可Apache-2.0 · 可商用宽松许可(Apache-2.0 / MIT / CC-BY / OpenMDW):允许商用。
发布日期2026-10-08 (Hugging Face 仓库创建日)

02需要多少显存(估算)

合计 = 权重 + 10% + 0.5GB 运行开销 + 1 个请求的 KV 缓存(FP16)。并发用户越多,KV 部分成倍增加。

无法估算:官方元数据没有给出参数量。请查看模型卡里官方测试过的硬件。

每权重比特:BF16 16、FP8 8.5、4 位 4.85。“放得下” = 合计 ≤ 显存 90%;Mac GPU 约可用统一内存的 2/3(≤36GB)或 3/4(更大机型)。MoE 模型所有专家都要进显存,按总参数算。 估算方法 →

03怎么跑

只列厂商或推理框架官方明确支持的方式。

官方模型卡未写明推理框架,请查看仓库说明。

怎么选推理引擎 →

04官方仓库与量化版

mistralai 官方发布的 1 个仓库。

05Mistral / Magistral / Devstral 其他模型

全部 35 个 →
模型参数4 位合计发布
Voxtral-Mini-4B-Realtime-Arabic4.43B3.5 GB2026-10-08
Shieldstral-1.0-3B3.85B3.9 GB2026-07-16
Mistral-Medium-3.5-128B127.7B88.6 GB2026-03-31
Mistral-Small-4-119B-2603119B / 6.5B80.0 GB2026-01-23
Voxtral-Mini-4B-Realtime-26024.43B3.5 GB2026-01-21
Devstral-2-123B-Instruct-2512125B86.8 GB2025-11-28
Mistral-Large-3-675B-Instruct-2512675B / 41B451 GB2025-11-28
Voxtral-4B-TTS-26034B3.2 GB2025-11-17

06来源

数据核对于 2026-10-13。参数、上下文、许可取自官方仓库;显存为本站估算。

数据更新于:自建算力 · 开源模型(北京时间)