// 算子 / 编译 / 硬件加速
ggml-org/ggml
机器学习张量库 ggml（llama.cpp 底层）
官方 · ggmlMIT维护中
01最近发版
-
ggml-org/ggml v0.27.0 次版本
机器学习张量库 ggml（llama.cpp 底层）
-
ggml-org/ggml v0.26.0 次版本
机器学习张量库 ggml（llama.cpp 底层）
-
机器学习张量库 ggml（llama.cpp 底层）
-
机器学习张量库 ggml（llama.cpp 底层）
-
机器学习张量库 ggml（llama.cpp 底层）
02同类
全部仓库 →
lyogavin/airllm 在 4GB 显存上推理 70B 模型。 算子 / 编译 / 硬件加速★ 40.2k 
Dao-AILab/flash-attention 快速显存高效注意力内核 算子 / 编译 / 硬件加速★ 25.2k 
triton-lang/triton GPU 内核编程语言 算子 / 编译 / 硬件加速★ 20.4k 
NVIDIA/open-gpu-kernel-modules NVIDIA Linux 开源 GPU 内核模块 算子 / 编译 / 硬件加速 · 官方★ 17.5k NVIDIA/TensorRT NVIDIA 推理优化 SDK 算子 / 编译 / 硬件加速 · 官方★ 13.4k