// 算子 / 编译 / 硬件加速
intel/auto-round
英特尔大模型量化算法 AutoRound
官方 · IntelApache-2.0维护中
01最近发版
-
英特尔大模型量化算法 AutoRound
-
英特尔大模型量化算法 AutoRound
02同类
全部仓库 →
lyogavin/airllm 在 4GB 显存上推理 70B 模型。 算子 / 编译 / 硬件加速★ 40.2k 
Dao-AILab/flash-attention 快速显存高效注意力内核 算子 / 编译 / 硬件加速★ 25.2k 
triton-lang/triton GPU 内核编程语言 算子 / 编译 / 硬件加速★ 20.4k 
NVIDIA/open-gpu-kernel-modules NVIDIA Linux 开源 GPU 内核模块 算子 / 编译 / 硬件加速 · 官方★ 17.5k 
ggml-org/ggml 机器学习张量库 ggml（llama.cpp 底层） 算子 / 编译 / 硬件加速 · 官方★ 15.5k