// 软件组合
本地私有大模型
数据不出机器,在本机跑聊天、API 和简单 agent。
4 个组件4 步搭建场景:在本机跑模型
💡 新手建议:LM Studio 或 Ollama + Open WebUI(见“在自己电脑上跑大模型”)。本组合里的对话界面、记忆组件是 GitHub 热门新项目,适合尝鲜。
组件与作用
- 1
- 2 ★ 38k
- 3 ★ 14k
- 4 ★ 60k
搭建步骤
- 01用 llmfit/whichllm 看本机能跑什么
- 02安装 LM Studio 或 osaurus 拉模型
- 03打开 OpenAI 兼容接口
- 04接记忆层与常用客户端
相近组合:区别在哪
- 在自己电脑上跑大模型那套是主流、稳定的入门组合