Skip to content
简体中文

切换主题

// ⬡ 深度学习基础

残差网络

加一条“捷径”让信号绕过层,使上百层网络可训练。

Residual Networks (ResNet) 2015 基础 核心

通俗解释

每层只学习“在输入基础上的增量”,输出 = 输入 + F(输入)。梯度能沿捷径直通,深度从十几层跳到上百层。Transformer 的每个子层也都套着残差连接。

用在哪里:视觉骨干网络;Transformer 中的残差连接

时间轴 · 前置 → 当前 → 后继

1998 卷积神经网络2015 批归一化2015 残差网络2015 Faster R-CNN …2017 Transformer 与…2020 SimCLR 自监督对比学习

01原始论文

Deep Residual Learning for Image Recognition

Kaiming He, Xiangyu Zhang, Shaoqing Ren, et al. · 2015

arXiv ↗ ✓ 已核实 · arXiv API

02知识位置

左边先学;右边是学完它之后可以学的。

03学习资料

官方文档、图解、课程和参考实现,链接都核对过。

04在课程里哪里学

所在学习路线:从零到深度学习

给 AI 读 / 数据说明

数据更新于:AI 算法图谱与课程体系(北京时间)