Skip to content
简体中文

切换主题

// Liquid LFM · 向量模型

LFM2.5-Embedding-350M 本地部署与显存需求

354M 参数。4 位量化约 0.7 GB,BF16 约 1.3 GB。

发布 2026-05-05许可:自定义许可,需阅读显存为估算值

01规格

发布方Liquid AI · LiquidAI
系列Liquid LFM · LFM2.5-Embedding
类型向量模型 (sentence-similarity)
参数量354M 来源:按官方 safetensors 权重统计
发布权重BF16 · 0.7 GB下载量
许可lfm1.0 · 自定义许可,需阅读厂商使用自定义许可,本站未归类,请阅读许可原文。
发布日期2026-05-05 (Hugging Face 仓库创建日)

02需要多少显存(估算)

向量模型体量小,显存随批量和序列长度增长。

精度权重权重 + 开销最低显卡Mac
BF16 / FP16(原始精度)0.7 GB 1.3 GB 8GB 显卡Mac 16GB
FP8 / INT8 / Q8_00.4 GB 0.9 GB 8GB 显卡Mac 16GB
4 位量化(Q4_K_M / AWQ / GPTQ-Int4)0.2 GB 0.7 GB 8GB 显卡Mac 16GB

每权重比特:BF16 16、FP8 8.5、4 位 4.85。“放得下” = 合计 ≤ 显存 90%;Mac GPU 约可用统一内存的 2/3(≤36GB)或 3/4(更大机型)。MoE 模型所有专家都要进显存,按总参数算。 估算方法 →

03怎么跑

只列厂商或推理框架官方明确支持的方式。

怎么选推理引擎 →

04官方仓库与量化版

LiquidAI 官方发布的 2 个仓库。

05Liquid LFM 其他模型

全部 26 个 →
模型参数4 位合计发布
LFM2.5-24B-A2B24B / 2B16.7 GB2026-10-12
LFM2.5-VL-3B3.12B2.7 GB2026-08-11
LFM2.5-2.6B2.7B2.4 GB2026-07-28
LFM2.5-Encoder-350M-Diffusion354M0.8 GB2026-07-10
LFM2.5-230M230M0.8 GB2026-06-24
LFM2.5-8B-A1B8.47B / 1B6.2 GB2026-05-28
LFM2.5-1.2B-JP-2026061.17B1.4 GB2026-05-26
LFM2.5-ColBERT-350M353M0.7 GB2026-05-20

06来源

数据核对于 2026-06-20。参数、上下文、许可取自官方仓库;显存为本站估算。

数据更新于:自建算力 · 开源模型(北京时间)