Skip to content
简体中文

切换主题

// 软件组合

本地私有大模型

数据不出机器,在本机跑聊天、API 和简单 agent。

4 个组件4 步搭建场景:在本机跑模型

💡 新手建议:LM Studio 或 Ollama + Open WebUI(见“在自己电脑上跑大模型”)。本组合里的对话界面、记忆组件是 GitHub 热门新项目,适合尝鲜。

组件与作用

  1. 1

    LM Studio 本地推理与推理引擎 闭源 / 商业

    推理运行时

    图形界面的本地大模型下载与运行工具,提供 OpenAI 兼容接口。

    可替换:osaurus · OpenLLM · colibri

  2. 2

    llmfit 本地推理与推理引擎 开源

    硬件选型

    一键找出本机硬件能跑的模型和供应商。

    可替换:whichllm · magnitude

    ★ 38k
  3. 3

    Open-LLM-VTuber AI 应用与对话客户端 开源

    对话界面

    免手持语音交互 + Live2D 的本地 LLM 数字人。

    可替换:airi · private-gpt

    ★ 14k
  4. 4

    mempalace 记忆与上下文 开源

    记忆

    开源 AI 记忆系统,在公开基准上表现突出。

    可替换:supermemory · engram

    ★ 60k

搭建步骤

  1. 01用 llmfit/whichllm 看本机能跑什么
  2. 02安装 LM Studio 或 osaurus 拉模型
  3. 03打开 OpenAI 兼容接口
  4. 04接记忆层与常用客户端

相近组合:区别在哪

数据更新于:AI 软件库与热度 · 解决方案 / 组合指南(北京时间)