深度学习
训练深层网络:优化器、归一化与残差连接
Adam、LayerNorm、残差连接和学习率调度。
高级 20 分钟 适合: 研究者 ✎ 编写中
✎ 本课正在编写,下面是规划好的大纲;正文完成前不会被搜索引擎收录。
本课将讲什么
- SGD 与 Adam
- 归一化层
- 残差连接
- 学习率预热与衰减
深度学习
Adam、LayerNorm、残差连接和学习率调度。
高级 20 分钟 适合: 研究者 ✎ 编写中
✎ 本课正在编写,下面是规划好的大纲;正文完成前不会被搜索引擎收录。
数据更新于:学 AI 课程 · 课程相关新闻(北京时间)