// 算子 / 编译 / 硬件加速
intel/neural-compressor
英特尔低比特量化与稀疏化模型压缩工具
官方 · IntelApache-2.0维护中
01最近发版
-
intel/neural-compressor v3.10 次版本 新模型
英特尔低比特量化与稀疏化模型压缩工具
02同类
全部仓库 →
lyogavin/airllm 在 4GB 显存上推理 70B 模型。 算子 / 编译 / 硬件加速★ 40.2k 
Dao-AILab/flash-attention 快速显存高效注意力内核 算子 / 编译 / 硬件加速★ 25.2k 
triton-lang/triton GPU 内核编程语言 算子 / 编译 / 硬件加速★ 20.4k 
NVIDIA/open-gpu-kernel-modules NVIDIA Linux 开源 GPU 内核模块 算子 / 编译 / 硬件加速 · 官方★ 17.5k 
ggml-org/ggml 机器学习张量库 ggml（llama.cpp 底层） 算子 / 编译 / 硬件加速 · 官方★ 15.5k