// 软件组合
本地私有知识库
文档不出本机:本地模型回答、本地向量库检索,适合个人和小团队把 PDF、笔记变成可问答的知识库。
4 个组件5 步搭建场景:做 RAG 和文档处理
组件与作用
- 1 ★ 184k
- 2 ★ 156k
- 3 ★ 69k
- 4 ★ 35k
搭建步骤
- 01安装 Ollama,拉一个聊天模型和一个嵌入模型(如
ollama pull官方模型库里的 embedding 模型) - 02用 Docker 启动 Open WebUI,连接本机 Ollama(官方 quick start 的
docker run命令) - 03复杂 PDF 先用 Docling 转成 Markdown,再上传到 Open WebUI 的知识库
- 04在对话里用 # 引用知识库提问,检查回答里的引用片段
- 05文档上万份或多人共用时,再把向量存储换成 Qdrant
✓ 适合
- 文档不能上传到云端(合同、病历、内部资料)
- 个人或 10 人以内小团队
✗ 这些情况换别的
- 需要最强模型的回答质量,且资料可以上云:用 NotebookLM 等云端方案更省事
- 上百人、要细粒度权限:看企业 RAG 组合
相近组合:区别在哪
- 个人知识库那套以笔记软件和云端 AI 为主,这套强调数据不出本机