// 在本地跑模型
omlx
Apple Silicon 上的 LLM 推理服务器，支持连续批处理与 SSD 缓存。
开源 维护中 两用 开发者
官方下载官方直链
v0.7.2 · 2026-10-21
按钮直接指向官方文件（github.com），本站不转存、不改动安装包。核实于 2026-10-23。 全部文件、校验值和安装步骤 →
一段话结论
omlx 是Apple Silicon 上的 LLM 推理服务器，支持连续批处理与 SSD 缓存。
适合：想在本地跑模型的开发者和团队。
01怎么开始
- 1先看官方快速上手（上方按钮）。
- 2按官方说明安装或注册。
- 3先拿一个小例子跑通，再接进项目。
02替代品与对比
并排对比 →03相关
版本历史 · 收录依据 · 给 AI 读
热度证据（第三方快照）
- GitHub 星数：21,700 · whatstrending.ai 2026-10-10
- GitHub 星数：22,656 · repos.ecosyste.ms 2026-10-10
- GitHub 星数：22,656 · repos.ecosyste.ms 2026-10-12
- GitHub 星数：22,656 · repos.ecosyste.ms 2026-10-13
- GitHub 星数：22,656 · repos.ecosyste.ms 2026-10-14
- GitHub 星数：22,656 · repos.ecosyste.ms 2026-10-15
- GitHub 星数：22,656 · repos.ecosyste.ms 2026-10-16
- GitHub 星数：22,879 · repos.ecosyste.ms 2026-10-19
- GitHub 星数：22,879 · repos.ecosyste.ms 2026-10-20
- GitHub 星数：22,879 · repos.ecosyste.ms 2026-10-21
- GitHub 星数：22,879 · repos.ecosyste.ms 2026-10-22
- GitHub 星数：22,879 · repos.ecosyste.ms 2026-10-23
- GitHub 星数：22,879 · repos.ecosyste.ms 2026-10-23
给 AI 读
- 调用方式：自身应用或网页
- 机器可读档案：/api/v1/software/omlx.json · llms.txt
- 收录于 2026-10-10 · 更新于 2026-10-23