01学习目标
- 会做聚类并评估簇质量
- 会用 PCA/UMAP 可视化高维嵌入
- 理解 EM 的 E 步与 M 步
建议先学:机器学习流程:数据、损失与泛化 · 线性代数:向量、矩阵与分解
02要掌握的算法
每张卡都有原始论文、前置和学习资料。
K 均值聚类k-Means Clustering 反复“分组—求中心”,把数据分成 k 簇。 1982核心 期望最大化(EM)Expectation–Maximization (EM) 在有隐藏变量时交替“猜隐藏值—更新参数”。 1977扩展 主成分分析Principal Component Analysis (PCA) 找出数据变化最大的几个方向来降维。 1901核心 t-SNE 把高维数据压到二维,同时保持“邻居还是邻居”。 2008扩展 UMAP 比 t-SNE 更快、更能保留全局结构的降维方法。 2018扩展 DBSCAN 密度聚类DBSCAN (Density-Based Clustering) 按“点够不够密”来聚类,能找出任意形状的簇和噪声点。 1996扩展
03必读论文
04课程与视频
- scikit-learn 用户指南:聚类 ↗官方文档EN
- Distill:How to Use t-SNE Effectively ↗博客图解EN
- UMAP 官方文档 ↗官方文档EN
05动手:项目、代码与练习
全部是官方或作者公开的免费页面,多数能在浏览器或免费 Colab 里直接运行。
动手项目
把 1000 条句子的嵌入用 k-means 聚类,再用 UMAP 画成二维图,给每个簇起名。
- 1
- 2
06自测题
先自己想,再点开看答案。
k-means 对初始化敏感吗?
敏感,常用 k-means++ 和多次初始化。
t-SNE 图上簇间距离可以解读吗?
不能直接解读。
PCA 第一主成分是什么方向?
数据方差最大的方向。