Skip to content
简体中文

切换主题

// 我想解决 · 个人用户 / 企业 IT / 开发者

🧭 在国内合规用上 AI

整理国内可用的合规路径:已备案的国内平台、可本地部署的开放权重模型,以及不该碰的灰色做法。国内可用性本期未实测。

5 步做法3 个替代选择2 套组合 · 1 个问题核实于 2026-10-22

怎么做

  1. 01个人:优先使用已备案的国内平台(豆包、Kimi、DeepSeek、通义、元宝等)
  2. 02开发者:用国内云平台(阿里云百炼、火山方舟等)的模型 API
  3. 03数据敏感:本地部署开放权重模型
  4. 04不要使用来源不明的 API 中转和共享账号
  5. 05对外提供生成式 AI 服务前完成备案/登记,发布内容按规定标识

要花多少钱

免费起步

国内主流助手基本免费使用

按量

国内云模型 API 按 token 计费,见价格页

团队 / 企业

私有化部署成本见企业私有化场景

价格会变,以官方页面为准。订阅套餐对比 · API 价格

替代选择:怎么挑

选择什么时候选它
豆包免费、多模态
DeepSeek推理和编程
阿里云百炼企业 API

✓ 适合

  • 在中国大陆使用或提供 AI 服务

推荐软件组合

全部组合

推荐软件

全部软件

🖥️ 本地推理与推理引擎

Ollama 本地推理与推理引擎v0.40.8 ★ 184k 本地一键运行开放权重大模型 开源 CLIAPI llama.cpp 本地推理与推理引擎b11804 ★ 132k 812 名提交者;--jinja 模板与工具调用兼容 开源 vllm 本地推理与推理引擎v0.31.0 ★ 95k 高吞吐 LLM 推理与服务引擎 开源 APICLI cherry-studio 本地推理与推理引擎v2.1.4 ★ 53k 多模型桌面 AI 客户端 开源 App LocalAI 本地推理与推理引擎v4.11.0 ★ 50k OpenAI 兼容的本地推理服务 开源 API exo 本地推理与推理引擎v1.0.71 ★ 48k 把多台设备组成 AI 集群推理 开源 CLIAPI sglang 本地推理与推理引擎v0.5.21 ★ 38k 高性能 LLM/VLM 服务框架 开源 API mlx 本地推理与推理引擎v0.32.3 ★ 29k Apple 芯片机器学习框架 开源 SDK llamafile 本地推理与推理引擎0.10.6 ★ 26k 单文件分发与运行 LLM 开源 CLIAPI ktransformers 本地推理与推理引擎 ★ 20k 消费级硬件跑大模型 开源 TensorRT-LLM 本地推理与推理引擎v1.4.0rc1 ★ 15k NVIDIA GPU 上的 LLM 推理优化 开源 SDKAPI ai-dynamo/dynamo 本地推理与推理引擎v1.5.0-kimi-k3-post.1 ★ 8.4k NVIDIA 分布式推理服务框架 开源 API lmdeploy 本地推理与推理引擎v0.18.0 ★ 8.1k LLM 压缩、部署与服务工具包 开源 APICLI mlx-lm 本地推理与推理引擎 ★ 7.4k MLX LLM 推理 开源 llama-swap 本地推理与推理引擎v262 ★ 5.9k 按需切换本地模型的代理 开源 API gpustack 本地推理与推理引擎v2.2.3 ★ 5.9k GPU 集群模型部署管理 开源 API lms 本地推理与推理引擎 ★ 5.4k LM Studio 命令行 开源 CLI llm-d 本地推理与推理引擎v0.10 ★ 4.9k Kubernetes 原生分布式推理 开源 API ramalama 本地推理与推理引擎v0.25.0 ★ 3.1k 用容器运行本地 AI 模型 开源 CLI LM Studio 本地推理与推理引擎0.4.26(Homebrew 当前) 图形界面的本地大模型下载与运行工具,提供 OpenAI 兼容接口。 闭源 / 商业 免费 macOSWindowsLinux NVIDIA 驱动 本地推理与推理引擎615.78.08 驱动×CUDA×PyTorch 兼容是高频回退需求 开源 CUDA Toolkit / cuDNN 本地推理与推理引擎CUDA 13.4.2 同上 闭源 / 商业 stable-diffusion-webui 本地推理与推理引擎v1.10.1 ★ 165k Stable Diffusion Web 界面 开源 API textgen 本地推理与推理引擎v4.9 ★ 48k 本地 LLM Web 界面 开源 API

还有 58 款,按类别查看 →

常见问题与解法

全部问题

这个场景里的需求

  • DEV-05供应商锁定、封号、连不上、中转可信度

    开发者 · 常见搜索:claude 封号 原因;国内 怎么 合规 使用 claude code;API 中转 靠谱吗

  • IND-06地区与支付障碍下的合规路径

    个人开发者与研究者 · 常见搜索:国内 合法 使用 GPT;国内 能用的 AI 编程 工具

  • ENT-05中国合规:备案、信创、整包招标

    企业 IT · 常见搜索:生成式人工智能 备案 查询;信创 大模型 适配;大模型 一体机

  • DIS-05出海收款与海外产品入华合规

    软件开发商 · 常见搜索:国内 开发者 怎么 收 海外 款;海外 AI 产品 入华 备案

学习资源

全部教程
  • handy-ollama 动手学 Ollama

    Datawhale · 推理部署 · 中文

    Ollama 本地部署大模型中文教程。

  • Ollama 文档

    Ollama · 推理部署 · 英文

    本地运行开源模型的官方文档。

  • vLLM 文档

    vLLM · 推理部署 · 英文

    高吞吐推理引擎官方文档与部署指南。

  • SGLang 文档

    SGLang · 推理部署 · 英文

    SGLang 推理服务框架文档。

  • llama.cpp

    ggml-org · 推理部署 · 英文

    CPU/GPU 本地推理的 C++ 实现,含量化与使用说明。

  • LM Studio 文档

    LM Studio · 推理部署 · 英文

    图形化本地运行 LLM 的官方文档。

官方参考

2026-10-22 根据官方文档整理,尚未在本站环境复现;与官方文档不一致时以官方为准。

数据更新于:解决方案 / 组合指南(北京时间)