Skip to content
简体中文

切换主题

// 厂商官方仓库

vLLM 项目

追踪 8 个官方仓库 · 近 30 天 39 次发版。

01最新发版

02全部仓库

仓库分类★最新版本许可证
vllm高吞吐 LLM 推理与服务引擎推理引擎与本地运行94.9kv0.32.02026-10-18Apache-2.0
vllm-omni面向全模态模型的高效推理框架。语音 / 音频7,293v0.32.0rc12026-10-20Apache-2.0
semantic-routervLLM 可编程的模型与算力路由层模型网关 / 路由6,243v0.4.02026-09-27Apache-2.0
aibrix大模型推理基础设施组件推理引擎与本地运行5,157v0.8.02026-10-13Apache-2.0
llm-compressor面向 vLLM 的模型量化压缩推理引擎与本地运行3,8970.9.0.52026-10-10Apache-2.0
vllm-ascendvLLM 华为昇腾硬件插件推理引擎与本地运行2,996v0.30.0rc12026-10-14Apache-2.0
production-stackvLLM 生产级 K8s 部署栈推理引擎与本地运行2,682vllm-stack-0.1.132026-09-30Apache-2.0
vllm-metalvLLM Apple 芯片硬件插件推理引擎与本地运行1,898v0.32.0.dev202610220150042026-10-22Apache-2.0

数据更新于:GitHub 开源雷达(北京时间)