Skip to content
简体中文

切换主题

// BGE 向量与重排 · 向量模型

bge-m3 本地部署与显存需求

智源 BAAI发布的向量模型模型。

发布 2024-01-27许可:可商用显存为估算值

01规格

发布方智源 BAAI · BAAI
系列BGE 向量与重排 · bge-m3
类型向量模型 (sentence-similarity)
参数量官方元数据未给出
许可MIT · 可商用宽松许可(Apache-2.0 / MIT / CC-BY / OpenMDW):允许商用。
发布日期2024-01-27 (Hugging Face 仓库创建日)

02需要多少显存(估算)

向量模型体量小,显存随批量和序列长度增长。

无法估算:官方元数据没有给出参数量。请查看模型卡里官方测试过的硬件。

每权重比特:BF16 16、FP8 8.5、4 位 4.85。“放得下” = 合计 ≤ 显存 90%;Mac GPU 约可用统一内存的 2/3(≤36GB)或 3/4(更大机型)。MoE 模型所有专家都要进显存,按总参数算。 估算方法 →

03怎么跑

只列厂商或推理框架官方明确支持的方式。

ollama run bge-m3

怎么选推理引擎 →

04官方仓库与量化版

BAAI 官方发布的 1 个仓库。

05BGE 向量与重排 其他模型

全部 8 个 →
模型参数4 位合计发布
bge-code-v11.54B1.5 GB2025-05-15
BGE-VL-base150M0.6 GB2025-02-25
BGE-VL-large428M0.8 GB2025-02-25
bge-en-icl7.11B5.2 GB2024-07-25
bge-multilingual-gemma29.24B6.7 GB2024-07-25
bge-reranker-v2.5-gemma2-lightweight9.24B6.7 GB2024-07-25
bge-reranker-v2-m3568M0.9 GB2024-03-15

06来源

数据核对于 2024-07-03。参数、上下文、许可取自官方仓库;显存为本站估算。

数据更新于:自建算力 · 开源模型(北京时间)