Skip to content
简体中文

切换主题

// 软件组合

离线内网部署

无外网环境下提供对话、知识库和编程辅助。

4 个组件4 步搭建场景:企业私有化部署大模型和知识库

💡 本组合主选已换成主流稳妥的离线方案:vLLM(或 Ollama)+ Open WebUI / Dify,模型与镜像离线导入;其余为可替换的热门新项目。

组件与作用

  1. 1

    vllm 本地推理与推理引擎 开源

    推理

    高吞吐 LLM 推理与服务引擎

    可替换:Ollama · OpenLLM · colibri · osaurus · LightLLM

    ★ 95k
  2. 2

    open-webui AI 应用与对话客户端 开源

    知识库

    自托管 AI 对话界面

    可替换:dify · private-gpt · WeKnora · OpenKB

    ★ 156k
  3. 3

    OpenCursor 编程 agent 与 AI IDE 开源

    编程

    开源 Cursor 风格 VS Code AI 编程 agent。

    可替换:freebuff · ZCode

    ★ 6.0k
  4. 4

    agent-governance-toolkit 身份、密钥与 agent 安全 开源

    治理

    AI agent 治理:策略、零信任身份、沙箱。

    可替换:SkillSpector · agent-scan

    ★ 6.4k

搭建步骤

  1. 01镜像与模型离线导入
  2. 02内网证书与身份对接
  3. 03默认禁网并白名单工具
  4. 04上线前做红队与技能扫描

数据更新于:AI 软件库与热度 · 解决方案 / 组合指南(北京时间)