Skip to content
简体中文

切换主题

// 软件组合

本地私有知识库

文档不出本机:本地模型回答、本地向量库检索,适合个人和小团队把 PDF、笔记变成可问答的知识库。

4 个组件5 步搭建场景:做 RAG 和文档处理

组件与作用

  1. 1

    Ollama 本地推理与推理引擎 开源

    本地运行大模型和嵌入模型

    本地一键运行开放权重大模型

    ★ 184k
  2. 2

    open-webui AI 应用与对话客户端 开源

    对话界面,自带知识库上传和检索

    自托管 AI 对话界面

    ★ 156k
  3. 3

    docling 文档解析与网页抓取 开源

    把 PDF、Office 解析成干净的 Markdown

    IBM 发起的文档解析转换(PDF/Office→结构化)

    ★ 69k
  4. 4

    qdrant 可选 检索、向量库与嵌入 开源

    向量库(数据量大时替换内置存储)

    Rust 向量数据库与搜索引擎

    ★ 35k

搭建步骤

  1. 01安装 Ollama,拉一个聊天模型和一个嵌入模型(如 ollama pull 官方模型库里的 embedding 模型)
  2. 02用 Docker 启动 Open WebUI,连接本机 Ollama(官方 quick start 的 docker run 命令)
  3. 03复杂 PDF 先用 Docling 转成 Markdown,再上传到 Open WebUI 的知识库
  4. 04在对话里用 # 引用知识库提问,检查回答里的引用片段
  5. 05文档上万份或多人共用时,再把向量存储换成 Qdrant

✓ 适合

  • 文档不能上传到云端(合同、病历、内部资料)
  • 个人或 10 人以内小团队

✗ 这些情况换别的

  • 需要最强模型的回答质量,且资料可以上云:用 NotebookLM 等云端方案更省事
  • 上百人、要细粒度权限:看企业 RAG 组合

相近组合:区别在哪

  • 个人知识库那套以笔记软件和云端 AI 为主,这套强调数据不出本机

数据更新于:AI 软件库与热度 · 解决方案 / 组合指南(北京时间)