Skip to content
简体中文

切换主题

// 蚂蚁百灵 Ling / Ring / Ming · 文本大模型

Ring-1T 本地部署与显存需求

总 1T · 激活 50B(MoE) 参数。4 位量化约 670 GB,BF16 约 2.20 TB(1 个 8K token 请求)。

发布 2025-10-10许可:可商用显存为估算值

01规格

发布方蚂蚁集团 inclusionAI · inclusionAI
系列蚂蚁百灵 Ling / Ring / Ming · Ring
类型文本大模型 (text-generation)
参数量总 1T · 激活 50B(MoE) 来源:官方模型卡“contains 1 trillion total parameters with 50 billion activated parameters”
上下文长度64K tokens (65,536)取自 config.json 的 max_position_embeddings
结构80 层 · GQA · MoE
发布权重BF16 · 2.00 TB下载量
许可MIT · 可商用宽松许可(Apache-2.0 / MIT / CC-BY / OpenMDW):允许商用。
发布日期2025-10-10 (Hugging Face 仓库创建日)

02需要多少显存(估算)

合计 = 权重 + 10% + 0.5GB 运行开销 + 1 个请求的 KV 缓存(FP16)。并发用户越多,KV 部分成倍增加。

精度权重合计 @ 8K合计 @ 32K最低显卡Mac
BF16 / FP16(原始精度)2.00 TB 2.20 TB2.21 TB 2 台 8 × B300(4,608GB)—
FP8 / INT8 / Q8_01.06 TB 1.17 TB1.18 TB 8 × B200(1,440GB)—
4 位量化(Q4_K_M / AWQ / GPTQ-Int4)606 GB 670 GB678 GB 8 × H200(1,128GB)—

每个请求的 KV 缓存:8K 2.7 GB · 32K 10.7 GB

每权重比特:BF16 16、FP8 8.5、4 位 4.85。“放得下” = 合计 ≤ 显存 90%;Mac GPU 约可用统一内存的 2/3(≤36GB)或 3/4(更大机型)。MoE 模型所有专家都要进显存,按总参数算。 估算方法 →

03怎么跑

只列厂商或推理框架官方明确支持的方式。

怎么选推理引擎 →

04官方仓库与量化版

inclusionAI 官方发布的 1 个仓库。

05蚂蚁百灵 Ling / Ring / Ming 其他模型

全部 29 个 →
模型参数4 位合计发布
Ling-3.0-tiny-UBTree183M1.0 GB2026-10-21
Ling-3.0-flash-UBTree482M1.5 GB2026-10-14
Ming-3.0-asr-tiny8.87B6.4 GB2026-10-14
Ling-3.1-flash560B / 25B375 GB2026-10-13
Ming-3.0-tts-0.5B1.48B1.5 GB2026-09-22
Ming-3.0-tts-tiny8.98B / 1.3B6.5 GB2026-09-22
Ming-Image-0.1-Design6.16B4.6 GB2026-09-17
Ling-3.0-flash-VL124B / 5.5B83.6 GB2026-09-04

06来源

数据核对于 2026-09-24。参数、上下文、许可取自官方仓库;显存为本站估算。

数据更新于:自建算力 · 开源模型(北京时间)