Skip to content
简体中文

切换主题

// 阶段 1 · 数学与编程基础

微积分与优化

导数、偏导、链式法则与梯度,理解“沿梯度下山”。

约 12 小时2 个算法1 篇论文正文编写中

01学习目标

建议先学:Python、NumPy 与开发环境

02要掌握的算法

每张卡都有原始论文、前置和学习资料。

03必读论文

04课程与视频

05动手:项目、代码与练习

全部是官方或作者公开的免费页面,多数能在浏览器或免费 Colab 里直接运行。

动手项目

手写梯度下降拟合 y=ax+b,再试三种学习率,画出损失曲线并解释发散与收敛。

  1. 1
    karpathy/micrograd(参考实现) ↗参考实现

    读懂并手敲约 100 行的自动微分引擎,再用它训练一个小网络。

  2. 2
    Distill:Why Momentum Really Works ↗博客图解

    在交互图里调学习率和动量,观察梯度下降何时震荡、何时发散。

06自测题

先自己想,再点开看答案。

梯度指向哪里?

函数值增长最快的方向。

学习率过大会怎样?

可能来回震荡甚至发散。

链式法则在神经网络中的作用?

把输出误差逐层分解成每个参数的梯度。

所在人群路线:算法研究者

数据更新于:AI 算法图谱与课程体系(北京时间)