Skip to content
简体中文

切换主题

// 阶段 2 · 经典机器学习

树模型与集成学习

决策树、随机森林、梯度提升、XGBoost/LightGBM——表格数据的王者。

约 8 小时6 个算法3 篇论文正文编写中

01学习目标

建议先学:机器学习流程:数据、损失与泛化

02要掌握的算法

每张卡都有原始论文、前置和学习资料。

03必读论文

04课程与视频

05动手:项目、代码与练习

全部是官方或作者公开的免费页面,多数能在浏览器或免费 Colab 里直接运行。

动手项目

在同一数据集上比较单棵树、随机森林、XGBoost,用 SHAP 解释最好的模型。

  1. 1
    Kaggle Learn:Intermediate Machine Learning ↗练习题

    用其中的 XGBoost 练习调 n_estimators 和学习率。

  2. 2
    scikit-learn 官方示例库(可在线运行) ↗可运行 Notebook

    运行官方集成方法示例,对比随机森林、梯度提升和 AdaBoost。

06自测题

先自己想,再点开看答案。

随机森林为何比单棵树稳?

多棵去相关的树取平均,降低方差。

梯度提升每一轮拟合什么?

当前模型损失的负梯度(残差)。

树模型需要特征标准化吗?

一般不需要,分裂只看排序。

所在人群路线:各学科研究者

数据更新于:AI 算法图谱与课程体系(北京时间)