Skip to content
简体中文

切换主题

// 怎么做 · 在本机跑模型

在自己电脑上搭一个“私有版 ChatGPT”(Ollama + Open WebUI)

用 Ollama 在本机运行开放权重模型,再用 Open WebUI 提供类似 ChatGPT 的网页界面,对话和文件都不出本机。

核实于 2026-10-222 个官方来源

场景:在本机跑模型 →

🖥️自建算力自建算力专区:判断 → 选型 → 装机 → 运维,含计算器→

现象

  • 想用 AI 处理不能上传的资料
  • 想让家人或小团队在局域网里共用

常见原因

  • 云端助手需要上传数据
  • 只装 Ollama 只有命令行界面

解决步骤

  1. 先用本站显存计算器确认能跑多大的模型;8GB 显存或 16GB 内存可以从 4–8B 模型开始
  2. 安装 Ollama,运行 ollama run <模型名> 下载并测试一个模型
  3. 安装 Docker,按 Open WebUI 官方 quick start 运行 docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data ...
  4. 浏览器打开 http://localhost:3000,创建管理员账号,在设置里连接本机 Ollama
  5. 不想用 Docker:LM Studio 自带图形界面和本地服务

注意

  • 一定要挂载 -v open-webui:/app/backend/data 数据卷,否则升级容器会丢聊天记录(官方说明)
  • 对局域网开放时设置强密码,不要直接暴露到公网

官方参考

2026-10-22 根据官方文档和公开讨论整理,尚未在本站环境复现;与官方文档不一致时以官方为准。

数据更新于:常见问题 / 报错