01最新发版
-
kvcache-ai/ktransformers v0.7.2 补丁
CPU/GPU 异构的大模型推理与微调优化框架
-
大规模运行 Agent 环境的分布式平台
02全部仓库
| 仓库 | 分类 | ★ | 最新版本 | 许可证 |
|---|---|---|---|---|
| ktransformersCPU/GPU 异构的大模型推理与微调优化框架 | 推理引擎与本地运行 | 19.6k | v0.7.22026-10-15 | Apache-2.0 |
| Mooncake月之暗面 Kimi 的推理服务平台（以 KV 缓存为中心） | 推理引擎与本地运行 | 6,857 | v0.3.14-rc12026-09-07 | Apache-2.0 |
| AgentENV大规模运行 Agent 环境的分布式平台 | 沙箱 / 运行环境 | 3,668 | v0.2.32026-10-01 | MIT |