本类时间线
01核心算法
先学这些,按年份排列。
变分自编码器 VAEVariational Autoencoder (VAE) 把数据编码成概率分布,再从中采样解码生成新数据。 2013核心 VQ-VAE 离散表示VQ-VAE (Neural Discrete Representation) 把图像/音频编码成离散的“视觉词表”token。 2017核心 去噪扩散概率模型 DDPMDenoising Diffusion Probabilistic Models (DDPM) 学会一步步把噪声还原成图像。 2020核心 潜空间扩散(Stable Diffusion)Latent Diffusion Models 在 VAE 压缩后的潜空间里做扩散,大幅降低成本。 2021核心 无分类器引导 CFGClassifier-Free Guidance (CFG) 同时预测有条件和无条件的结果,按比例放大差异,让图更贴合提示。 2022核心 扩散 Transformer DiTDiffusion Transformer (DiT) 用 Transformer 代替 U-Net 做扩散去噪骨干。 2022核心 流匹配Flow Matching 直接学习把噪声“流动”成数据的速度场。 2022核心 ControlNet 给扩散模型加上边缘、姿态、深度等精确控制条件。 2023核心
02扩展
核心学懂之后值得了解的变体和后续工作。
生成对抗网络 GANGenerative Adversarial Network (GAN) 生成器造假、判别器鉴假,两者对抗中共同进步。 2014扩展 标准化流(RealNVP / Glow)Normalizing Flows (RealNVP / Glow) 用一串可逆变换把简单分布变成复杂分布,可以精确算似然。 2016扩展 DDIM 快速采样DDIM 把扩散采样改成确定性过程,步数从上千降到几十。 2020扩展 分数匹配与随机微分方程Score-Based Models via SDEs 用随机微分方程统一扩散模型,生成即逆向求解方程。 2020扩展 整流(Rectified Flow)Rectified Flow 把生成路径“拉直”,少数几步甚至一步就能生成。 2022扩展 一致性模型Consistency Models 学会从轨迹上任一点一步跳到终点,实现一步生成。 2023扩展 视觉自回归 VARVisual Autoregressive Modeling (VAR) 按“由粗到细的分辨率”而不是逐像素做自回归生成图像。 2024扩展