Skip to content
简体中文

切换主题

发现▾

不知道从哪开始？本周最热的软件、模型和组合，3 分钟看完 AI 圈的变化。

AI 软件▾

给人用的 AI 软件：从 ChatGPT 这类助手，到写代码、做视频、搭工作流的工具，按用途挑。

Agent 工具▾

给 AI 用的软件：让你的 agent（Claude Code、Codex、Cursor…）能上网、读文档、跑代码、记住事情。

模型▾

选模型、算成本、自己部署：价格、榜单、评测、免费额度和自建算力都在这里。

解决方案▾

有具体目标或报错？按场景给出现成的软件组合、步骤和问题解法。

学 AI▾

一套从零到前沿的系统课程，配算法库、必读论文和精选教程。

前沿▾

每天的 AI 新闻、每周热点、最新论文和 AI 改造各学科的进度。

// 阶段 8 · RAG、Agent 与应用工程

嵌入、向量检索与重排

BM25、句向量、DPR、ColBERT、HNSW、PQ、混合检索。

看学习目标 ↓ 代码与练习 ↓

约 8 小时10 个算法4 篇论文正文编写中

01学习目标

建议先学：分词与嵌入 · 无监督学习：聚类、降维与 EM

02要掌握的算法

每张卡都有原始论文、前置和学习资料。

BM25 关键词检索BM25 按词频与稀有度给文档打分的经典关键词检索。 2009核心 句向量（Sentence-BERT）Sentence Embeddings (Sentence-BERT) 把整句话编码成一个向量，用余弦相似度比较语义。 2019核心 稠密段落检索 DPRDense Passage Retrieval (DPR) 用双塔编码器把问题和段落映射到同一空间进行检索。 2020核心 ColBERT 后期交互ColBERT (Late Interaction) 保留每个词的向量，在检索时做细粒度匹配，兼顾精度与速度。 2020核心 HNSW 图索引HNSW (Hierarchical Navigable Small World) 多层“小世界”图结构，实现亿级向量的毫秒级近似最近邻搜索。 2016核心 乘积量化 PQProduct Quantization (PQ) 把向量切段、每段用小码本编码，压缩几十倍还能快速算距离。 2011核心 FAISS GPU 相似度搜索FAISS (Billion-scale GPU Similarity Search) Meta 开源的十亿级向量检索库及其 GPU 算法。 2017扩展 套娃表示学习Matryoshka Representation Learning 一个向量的前几维本身就是可用的小向量，可按需截断。 2022扩展 对比学习与 InfoNCEContrastive Learning (InfoNCE) 拉近正样本对、推远负样本，学到好的嵌入。 2018核心 交叉编码器重排（BERT Reranker）Cross-Encoder Reranking 把查询和文档拼在一起送进 BERT 打相关分，给初筛结果重新排序。 2019核心

03必读论文

04课程与视频

05动手：项目、代码与练习

全部是官方或作者公开的免费页面，多数能在浏览器或免费 Colab 里直接运行。

动手项目

对同一批 1 万篇文档分别用 BM25、向量、混合检索，在 50 个标注问题上比较 Recall@10。

  1. 1
    Sentence Transformers 文档 ↗官方文档

    用 Sentence Transformers 给文档编码，实现语义搜索和交叉编码器重排。

  2. 2
    facebookresearch/faiss ↗参考实现

    用 FAISS 建 Flat、IVF、HNSW 三种索引，比较召回率和速度。

  3. 3
    MTEB 嵌入模型排行榜 ↗工具

    在 MTEB 排行榜上按语言和任务挑选嵌入模型。

06自测题

先自己想，再点开看答案。

HNSW 的主要代价？

内存占用较高、构建较慢。

为什么要混合 BM25 与向量？

关键词精确匹配与语义匹配互补。

重排器一般比召回模型慢还是快？

更慢更准，只用于少量候选。

所在人群路线：应用开发者

数据更新于：AI 算法图谱与课程体系（北京时间）