Skip to content
简体中文

切换主题

// 阶段 1 · 数学与编程基础

PyTorch 入门与自动求导

张量、自动求导、数据加载与训练循环。

约 10 小时2 个算法0 篇论文正文编写中

01学习目标

建议先学:Python、NumPy 与开发环境 · 微积分与优化

02要掌握的算法

每张卡都有原始论文、前置和学习资料。

03课程与视频

04动手:项目、代码与练习

全部是官方或作者公开的免费页面,多数能在浏览器或免费 Colab 里直接运行。

动手项目

跟着 micrograd 从零写一个 100 行的自动求导引擎,再用 PyTorch 重写同一个两层网络并对比梯度。

  1. 1
    PyTorch 官方:60 分钟入门 ↗可运行 Notebook

    跟着官方 60 分钟教程训练第一个图像分类器。

  2. 2
    srush/Tensor-Puzzles:张量广播谜题 ↗练习题

    只用广播和基本运算实现 21 个张量函数,练出“张量思维”。

  3. 3
    动手学深度学习(中文版) ↗书

    中文版每节都可直接运行代码,跑完“预备知识”和“线性神经网络”两章。

05自测题

先自己想,再点开看答案。

loss.backward() 做了什么?

沿计算图反向计算所有需要梯度的张量的梯度。

为什么每步要 zero_grad?

PyTorch 默认累加梯度。

model.eval() 影响哪些层?

Dropout、BatchNorm 等训练/推理行为不同的层。

所在人群路线:应用开发者 · 算法研究者 · 各学科研究者

数据更新于:AI 算法图谱与课程体系(北京时间)