Skip to content
简体中文

切换主题

// 模型网关、路由与用量

换模型、控成本

统一接入多家模型、路由、限流、计费和用量统计。

35 个27 个开源核实于 2026-10-22并排对比 →

怎么选 · 先看这 3 个

35 / 35 个软件

litellm v1.104.2 ★ 62k 统一调用 100+ LLM 的 SDK 与代理网关 开源 SDKAPI OpenRouter 统一 API 网关,一个接口调用数百个大模型并按量计费。 闭源 / 商业 免费增值 WebAPI claude-code-router v3.1.3 ★ 38k 把 Claude Code 请求路由到其他模型 开源 CLI Google AI Studio Google 面向开发者的 Gemini 调试与 API Key 入口,可从提示词直接做出应用。 闭源 / 商业 免费增值 WebAPI fal 面向开发者的生成式媒体推理平台,按量调用图像、视频、音频模型。 闭源 / 商业 付费 APIWeb experiential ★ 9.9k 零加价开源网关,支持 BYOK、自托管和 1000+ 市场模型。 开源 API headroom ★ 77k 在内容进模型前压缩工具输出和 RAG 片段,省 token。 开源 CLIproxyMCP free-claude-code ★ 61k 把多家免费模型额度接到 Claude Code、Codex 等 harness。 开源 proxy axonhub v1.0.0-beta11 ★ 5.4k 开源 AI 网关:任意 SDK 调 100+ LLM,含故障转移与负载均衡。 开源 server rtk v1.0.1 ★ 84k 代理常用开发命令,把 LLM 的 token 消耗降 60–90%。 开源 CLI OmniRoute ★ 77k 免费开源 AI 网关,统一接入 290+ 供应商和 500+ 模型。 开源 API freellmapi v0.16.7 ★ 39k 聚合 16 家免费 LLM 额度的 OpenAI 兼容代理。 开源 API context-mode ★ 32k 沙箱化工具输出,优化编程 agent 上下文窗口。 开源 proxy tyk ★ 11k 开源 API 与 AI 网关,支持 REST、GraphQL、MCP。 开源 server llm-gateway ★ 7.6k 开源 LLM 网关。 开源 server CLIProxyAPI v8.0.23 ★ 56k 把编码 CLI 包装为 API 开源 API new-api v1.0.0-rc.46 ★ 50k 新一代大模型网关 开源 API kong 3.9.3 ★ 44k API 与 AI 网关 开源 API one-api v0.6.10 ★ 37k 多模型 API 统一管理分发 开源 API envoy v1.39.3 ★ 29k 云原生代理 开源 API apisix 3.19.0 ★ 17k 云原生 API/AI 网关 开源 API Portkey-AI/gateway v1.15.2 ★ 13k AI 网关:路由、重试、护栏 开源 API higress v2.2.5 ★ 9.5k 阿里 AI 原生 API 网关 开源 API bifrost v2.2.6 ★ 9.0k 高性能 LLM 网关 开源 API plano 0.4.37 ★ 7.1k 面向 agent 的智能代理 开源 API kgateway v2.3.10 ★ 5.7k Kubernetes 网关(含 AI) 开源 API agentgateway v1.6.0 ★ 5.2k 面向 MCP/A2A 的 agent 网关 开源 API any-llm 1.33.0 ★ 2.2k 统一调用多家 LLM 的接口 开源 SDK agent-router v1.2.0 ★ 2.2k 基于 Envoy Gateway 的生成式 AI 统一接入网关(原 envoyproxy/ai-gateway) 开源 API ai-gateway v0.2.0-beta.30 ★ 636 Helicone Rust AI 网关 开源 API 阿里云百炼 国内平台网关+MCP 市场(唯一带计费的 MCP 商店) 闭源 / 商业 ccusage 本地用量统计,DEV P02 点名 开放规范 Cloudflare AI Gateway 企业商业网关之一 闭源 / 商业 TrueFoundry 企业网关/部署 闭源 / 商业 火山方舟 / 火山引擎 AI 网关 国内云网关;日均 token 180 万亿(媒体) 闭源 / 商业

关于这页的数据

数据更新于:AI 软件库与热度(北京时间)