// 在本地跑模型
llm-compressor0.10.0.4
面向 vLLM 的模型量化压缩
开源 维护中 开发者
一段话结论
llm-compressor 是面向 vLLM 的模型量化压缩。
适合：想在本地跑模型的开发者和团队。
要点：开源大库收录：面向 vLLM 的模型量化压缩
01怎么开始
- 1先看官方快速上手（上方按钮）。
- 2从官方包管理器安装：
pip install llmcompressor - 3先拿一个小例子跑通，再接进项目。
// 在本地跑模型
面向 vLLM 的模型量化压缩
开源 维护中 开发者
一段话结论
llm-compressor 是面向 vLLM 的模型量化压缩。
适合：想在本地跑模型的开发者和团队。
要点：开源大库收录：面向 vLLM 的模型量化压缩
pip install llmcompressor数据更新于：AI 软件库与热度 · 软件档案 / 需求（北京时间）