01找算法
可搜中英文名和别名,也可按领域、难度、年代筛选。
- 线性回归 Linear Regression · 经典机器学习
用一条直线(超平面)拟合输入与输出的关系。 — - 逻辑回归 Logistic Regression · 经典机器学习
用 S 形函数把线性得分变成概率,做二分类。 1958 - K 近邻 k-Nearest Neighbors · 经典机器学习
看离你最近的 k 个样本是什么,你就是什么。 1967 - 决策树(CART) Decision Trees (CART) · 经典机器学习
用一连串“是/否”问题把数据切分成纯净的小组。 — - 随机森林 Random Forest · 经典机器学习
训练很多棵随机化的决策树,让它们投票。 2001 - 梯度提升树 Gradient Boosting (GBDT) · 经典机器学习
一棵接一棵地训练小树,每棵专门修正前面的错误。 2001 - XGBoost XGBoost · 经典机器学习
工程化到极致的梯度提升树系统。 2016 - LightGBM LightGBM · 经典机器学习
用直方图和按叶生长加速的梯度提升树。 2017 - 支持向量机 Support Vector Machine · 经典机器学习
找一条离两类样本都尽量远的分界线。 1995 - K 均值聚类 k-Means Clustering · 经典机器学习
反复“分组—求中心”,把数据分成 k 簇。 1982 - 主成分分析 Principal Component Analysis (PCA) · 经典机器学习
找出数据变化最大的几个方向来降维。 1901 - 期望最大化(EM) Expectation–Maximization (EM) · 经典机器学习
在有隐藏变量时交替“猜隐藏值—更新参数”。 1977 - t-SNE t-SNE · 经典机器学习
把高维数据压到二维,同时保持“邻居还是邻居”。 2008 - UMAP UMAP · 经典机器学习
比 t-SNE 更快、更能保留全局结构的降维方法。 2018 - 感知机 Perceptron · 深度学习基础
最早的“人工神经元”:加权求和后过阈值。 1958 - 随机梯度下降 Stochastic Gradient Descent (SGD) · 深度学习基础
每次用一小批数据估计梯度,沿下坡方向走一小步。 1951 - 反向传播 Backpropagation · 深度学习基础
用链式法则从输出往回算出每个参数的梯度。 1986 - 卷积神经网络 Convolutional Neural Network (CNN) · 深度学习基础
用滑动的小滤波器提取局部图案,层层组合成高级特征。 1998 - LSTM 长短期记忆网络 Long Short-Term Memory (LSTM) · 深度学习基础
带“门”的循环网络,能记住长距离信息。 1997 - 序列到序列(Seq2Seq) Sequence-to-Sequence Learning · 深度学习基础
一个网络读入句子,另一个网络生成句子。 2014 - Word2Vec 词向量 Word2Vec · 深度学习基础
用“上下文预测词”学到能做加减法的词向量。 2013 - Adam 优化器 Adam · 深度学习基础
给每个参数自适应步长的动量优化器。 2014 - AdamW AdamW (Decoupled Weight Decay) · 深度学习基础
把权重衰减从 Adam 的梯度更新中解耦出来。 2017 - Muon 优化器 Muon Optimizer · 深度学习基础
把动量更新“正交化”后再用于矩阵参数的新优化器。 2024 - Dropout Dropout · 深度学习基础
训练时随机“关掉”一部分神经元以防过拟合。 2012 - 批归一化 Batch Normalization · 深度学习基础
把每层输出按一个 batch 标准化,让深网络更好训练。 2015 - 层归一化 Layer Normalization · 深度学习基础
在单个样本内部做标准化,不依赖 batch。 2016 - RMSNorm RMSNorm · 深度学习基础
只用均方根缩放、省掉减均值的简化版 LayerNorm。 2019 - 残差网络 Residual Networks (ResNet) · 深度学习基础
加一条“捷径”让信号绕过层,使上百层网络可训练。 2015 - GELU 激活函数 GELU · 深度学习基础
按概率“软开关”输入的平滑激活函数。 2016 - SwiGLU SwiGLU (Gated Linear Units) · 深度学习基础
给前馈层加一条“门控”支路,提升 Transformer 质量。 2020 - BPE 子词分词 Byte-Pair Encoding (BPE) Tokenization · Transformer 与注意力
反复合并最常见的字符对,得到子词词表。 2015 - 注意力机制(Bahdanau) Attention (Bahdanau) · Transformer 与注意力
生成每个词时“回头看”输入里最相关的部分。 2014 - Transformer 与自注意力 Transformer & Self-Attention · Transformer 与注意力
完全基于注意力、可并行训练的序列模型,是所有大模型的骨架。 2017 - BERT BERT · Transformer 与注意力
双向 Transformer 编码器,通过“完形填空”预训练。 2018 - T5 文本到文本 T5 (Text-to-Text Transfer Transformer) · Transformer 与注意力
把所有 NLP 任务统一成“输入文本→输出文本”。 2019 - GPT-3 与上下文学习 GPT-3 & In-Context Learning · Transformer 与注意力
足够大的语言模型只看几个例子就能完成新任务。 2020 - 旋转位置编码 RoPE Rotary Position Embedding (RoPE) · Transformer 与注意力
通过旋转 Q/K 向量来编码位置,使注意力天然感知相对距离。 2021 - ALiBi 线性偏置 ALiBi (Attention with Linear Biases) · Transformer 与注意力
按距离给注意力分数加线性惩罚,代替位置编码。 2021 - 多查询注意力 MQA Multi-Query Attention (MQA) · Transformer 与注意力
所有注意力头共享一份 K/V,大幅缩小 KV Cache。 2019 - 分组查询注意力 GQA Grouped-Query Attention (GQA) · Transformer 与注意力
把注意力头分组,每组共享一份 K/V,在 MHA 与 MQA 间折中。 2023 - 多头潜在注意力 MLA Multi-head Latent Attention (MLA) · Transformer 与注意力
把 K/V 压缩成一个低维潜在向量缓存,再按需还原。 2024 - FlashAttention FlashAttention (v1–v3) · Transformer 与注意力
按 GPU 内存层级分块计算的精确注意力,快且省显存。 2022 - 滑动窗口/稀疏注意力 Sliding-Window & Sparse Attention · Transformer 与注意力
每个 token 只看附近窗口加少量全局 token,让注意力线性增长。 2020 - 原生稀疏注意力 NSA Native Sparse Attention (NSA) · Transformer 与注意力
可训练、对硬件友好的动态稀疏注意力。 2025 - YaRN 上下文扩展 YaRN (Context Window Extension) · Transformer 与注意力
通过调整 RoPE 频率,用少量训练把上下文窗口扩大数倍。 2023 - 环形注意力 Ring Attention Ring Attention · Transformer 与注意力
把超长序列切到多张卡上,按环传递 K/V 计算注意力。 2023 - 线性注意力 Linear Attention · Transformer 与注意力
用核函数近似 softmax,把注意力复杂度从平方降到线性。 2020 - 稀疏门控混合专家 Sparsely-Gated Mixture of Experts · 混合专家 MoE
一个门控网络为每个输入只挑少数几个“专家”子网络。 2017 - GShard 专家并行 GShard (Expert Parallelism) · 混合专家 MoE
把 MoE 的专家分布到上千个加速器上训练。 2020 - Switch Transformer Switch Transformer · 混合专家 MoE
每个 token 只路由到 1 个专家的极简 MoE。 2021 - Mixtral(top-2 MoE) Mixtral (Top-2 MoE) · 混合专家 MoE
8 个专家选 2 个的开源 MoE 模型,让 MoE 走进开源社区。 2024 - DeepSeekMoE 细粒度专家 DeepSeekMoE (Fine-Grained & Shared Experts) · 混合专家 MoE
把专家切得更细并加入共享专家,让每个专家更专精。 2024 - 无辅助损失负载均衡 Auxiliary-Loss-Free Load Balancing · 混合专家 MoE
用动态偏置而非额外损失来平衡专家负载。 2024 - 结构化状态空间 S4 Structured State Spaces (S4) · 新架构:SSM / 线性注意力
用连续时间状态空间方程高效建模超长序列。 2021 - Mamba 选择性状态空间 Mamba (Selective State Spaces) · 新架构:SSM / 线性注意力
让状态空间参数随输入变化,获得线性时间且接近 Transformer 的效果。 2023 - Mamba-2 / 状态空间对偶 Mamba-2 (State Space Duality) · 新架构:SSM / 线性注意力
证明 SSM 与一类注意力等价,并据此设计更快的 Mamba。 2024 - RWKV RWKV · 新架构:SSM / 线性注意力
能像 Transformer 并行训练、像 RNN 一样推理的模型。 2023 - RetNet 保留网络 Retentive Network (RetNet) · 新架构:SSM / 线性注意力
可并行、可递推、可分块三种模式切换的注意力替代方案。 2023 - Hyena 长卷积 Hyena Hierarchy · 新架构:SSM / 线性注意力
用隐式参数化的超长卷积和门控代替注意力。 2023 - xLSTM xLSTM · 新架构:SSM / 线性注意力
用指数门控和矩阵记忆升级 LSTM,与 Transformer 正面竞争。 2024 - 门控 DeltaNet Gated Delta Networks · 新架构:SSM / 线性注意力
把“增量规则”记忆更新和门控遗忘结合的线性注意力。 2024 - 混合架构(Transformer+SSM) Hybrid Architectures (Jamba) · 新架构:SSM / 线性注意力
在同一模型里交替堆叠注意力层和 Mamba 层(并加 MoE)。 2024 - 扩散语言模型 Diffusion Language Models (LLaDA) · 新架构:SSM / 线性注意力
不按从左到右生成,而是从全遮盖逐步“去噪”出整段文本。 2025 - 缩放定律 Scaling Laws · 预训练、缩放与分布式训练
模型损失随参数、数据、算力按幂律平滑下降。 2020 - Chinchilla 计算最优 Chinchilla Compute-Optimal Scaling · 预训练、缩放与分布式训练
同样算力下,参数量和训练 token 应同比增长(约 20 token/参数)。 2022 - 涌现能力 Emergent Abilities · 预训练、缩放与分布式训练
某些能力在模型变大到某个规模后才“突然”出现。 2022 - μP 超参迁移 μP (Maximal Update Parametrization) · 预训练、缩放与分布式训练
调好小模型的超参数,直接迁移到大模型。 2022 - 多 token 预测 Multi-Token Prediction (MTP) · 预训练、缩放与分布式训练
训练时让模型一次预测后面多个 token。 2024 - 混合精度与 FP8 训练 Mixed Precision & FP8 Training · 预训练、缩放与分布式训练
用 16 位甚至 8 位浮点计算,用 32 位保存主权重。 2017 - ZeRO / FSDP 数据并行 ZeRO / FSDP (Sharded Data Parallelism) · 预训练、缩放与分布式训练
把优化器状态、梯度和参数切片到各卡,消除数据并行的冗余。 2019 - 张量并行(Megatron) Tensor Parallelism (Megatron-LM) · 预训练、缩放与分布式训练
把一层的矩阵乘法切到多张卡上同时算。 2019 - 流水线并行 Pipeline Parallelism (GPipe) · 预训练、缩放与分布式训练
把模型按层切段放到不同卡上,像流水线一样处理微批次。 2018 - 人类反馈强化学习 RLHF Reinforcement Learning from Human Feedback (RLHF) · 对齐与偏好优化
先用人类偏好训练奖励模型,再用强化学习让模型迎合偏好。 2022 - 奖励模型 Reward Modeling (Preference Learning) · 对齐与偏好优化
从“A 比 B 好”的比较数据中学出一个打分函数。 2017 - 直接偏好优化 DPO Direct Preference Optimization (DPO) · 对齐与偏好优化
不训练奖励模型、不跑强化学习,直接用偏好数据微调。 2023 - KTO KTO (Kahneman–Tversky Optimization) · 对齐与偏好优化
只需“好/不好”单条标签,不需要成对比较的对齐方法。 2024 - ORPO ORPO (Odds Ratio Preference Optimization) · 对齐与偏好优化
把 SFT 和偏好优化合成一步、无需参考模型。 2024 - SimPO SimPO (Simple Preference Optimization) · 对齐与偏好优化
用长度归一化的平均对数概率做隐式奖励,无需参考模型。 2024 - 宪法式 AI / RLAIF Constitutional AI / RLAIF · 对齐与偏好优化
用一份成文“宪法”让 AI 自己批评修改回答,用 AI 反馈代替人工标注。 2022 - 组相对策略优化 GRPO Group Relative Policy Optimization (GRPO) · 对齐与偏好优化
同一题采样一组答案,用组内相对得分代替价值网络。 2024 - 可验证奖励强化学习 RLVR RL with Verifiable Rewards (RLVR) · 对齐与偏好优化
用程序可判定对错的任务(数学答案、单元测试)直接给奖励。 2024 - DAPO DAPO · 对齐与偏好优化
面向长思维链强化学习的一组 GRPO 改进与开源系统。 2025 - 思维链提示 Chain-of-Thought Prompting · 推理模型与测试时计算
让模型先写出推理步骤再给答案。 2022 - 自洽性投票 Self-Consistency · 推理模型与测试时计算
采样多条思维链,取出现最多的答案。 2022 - 思维树 Tree of Thoughts · 推理模型与测试时计算
把推理展开成树,边生成边评估、可回溯搜索。 2023 - 过程奖励模型 Process Reward Models (PRM) · 推理模型与测试时计算
给推理的每一步打分,而不只看最终答案。 2023 - STaR 自举推理 STaR (Self-Taught Reasoner) · 推理模型与测试时计算
让模型用自己答对的推理过程反复训练自己。 2022 - 测试时计算扩展 Test-Time Compute Scaling · 推理模型与测试时计算
推理时多花算力(多想、多采样、搜索)换取更好答案。 2024 - DeepSeek-R1 推理强化学习配方 DeepSeek-R1 Reasoning RL Recipe · 推理模型与测试时计算
只用结果奖励的大规模强化学习,就能让模型学会长链推理与自我反思。 2025 - 预算强制(s1) Budget Forcing (s1) · 推理模型与测试时计算
用强行延长或截断“思考”的方法控制测试时算力。 2025 - 指令微调(FLAN) Instruction Tuning (FLAN) · 微调与参数高效训练
用大量“指令→回答”数据微调,让模型能零样本听懂新任务。 2021 - Self-Instruct 合成指令 Self-Instruct · 微调与参数高效训练
让模型自己生成指令数据,再用来微调自己。 2022 - Adapter 适配器 Adapters · 微调与参数高效训练
在冻结的模型层间插入小模块,只训练这些小模块。 2019 - 前缀/提示微调 Prefix & Prompt Tuning · 微调与参数高效训练
只学习一段加在输入前的“软提示”向量。 2021 - LoRA 低秩适配 LoRA (Low-Rank Adaptation) · 微调与参数高效训练
冻结原模型,只训练两个很小的低秩矩阵来表示权重变化。 2021 - QLoRA QLoRA · 微调与参数高效训练
把基座量化到 4 位再训练 LoRA,单张消费级显卡也能微调大模型。 2023 - DoRA DoRA (Weight-Decomposed LoRA) · 微调与参数高效训练
把权重拆成“大小”和“方向”,只用 LoRA 更新方向。 2024 - 模型合并与任务算术 Model Merging & Task Arithmetic · 微调与参数高效训练
把多个微调模型的权重直接加减平均,组合它们的能力。 2022 - 知识蒸馏 Knowledge Distillation · 量化、剪枝与蒸馏
让小模型学习大模型输出的“软概率”。 2015 - LLM.int8() 与离群值 LLM.int8() & Outlier Handling · 量化、剪枝与蒸馏
8 位矩阵乘法,把少数“离群”特征单独用 16 位算。 2022 - GPTQ 训练后量化 GPTQ · 量化、剪枝与蒸馏
利用二阶信息逐列量化权重,几小时把大模型压到 3–4 位。 2022 - AWQ 激活感知量化 AWQ (Activation-aware Weight Quantization) · 量化、剪枝与蒸馏
根据激活大小找出最重要的 1% 权重并加以保护。 2023 - SmoothQuant SmoothQuant · 量化、剪枝与蒸馏
把激活里的量化难度“搬”到权重上,实现 W8A8。 2022 - SparseGPT 一次性剪枝 SparseGPT · 量化、剪枝与蒸馏
不重新训练就把大模型一半权重剪掉。 2023 - BitNet b1.58 三值模型 BitNet b1.58 (Ternary LLMs) · 量化、剪枝与蒸馏
每个权重只取 −1、0、+1,从训练开始就是 1.58 位。 2024 - KV Cache KV Cache · 推理加速与服务
把已生成 token 的 Key/Value 存起来,避免每步重复计算。 — - 温度与 Top-p 采样 Temperature & Nucleus (Top-p) Sampling · 推理加速与服务
控制生成随机性:只从累计概率达到 p 的候选里抽样。 2019 - 推测解码 Speculative Decoding · 推理加速与服务
小模型先猜几个 token,大模型一次性验证,输出分布不变。 2022 - Medusa 多解码头 Medusa · 推理加速与服务
在模型上加几个额外的解码头,自己给自己做推测解码。 2024 - EAGLE EAGLE · 推理加速与服务
在特征层面而非 token 层面做推测,接受率更高。 2024 - PagedAttention(vLLM) PagedAttention (vLLM) · 推理加速与服务
像操作系统分页一样管理 KV Cache,减少显存浪费。 2023 - 连续批处理 Continuous (Iteration-Level) Batching · 推理加速与服务
每生成一步就重新组批,完成的请求立即让位给新请求。 2022 - RadixAttention 前缀缓存 RadixAttention (Prefix Caching) · 推理加速与服务
用基数树自动复用不同请求间相同前缀的 KV Cache。 2023 - 注意力汇聚点 StreamingLLM Attention Sinks (StreamingLLM) · 推理加速与服务
保留开头几个“汇聚”token 的 KV,就能无限长流式生成。 2023 - 预填充/解码分离 Prefill–Decode Disaggregation · 推理加速与服务
把“读提示”和“逐字生成”放到不同 GPU 上分别优化。 2024 - 变分自编码器 VAE Variational Autoencoder (VAE) · 扩散、流匹配与生成模型
把数据编码成概率分布,再从中采样解码生成新数据。 2013 - 生成对抗网络 GAN Generative Adversarial Network (GAN) · 扩散、流匹配与生成模型
生成器造假、判别器鉴假,两者对抗中共同进步。 2014 - VQ-VAE 离散表示 VQ-VAE (Neural Discrete Representation) · 扩散、流匹配与生成模型
把图像/音频编码成离散的“视觉词表”token。 2017 - 去噪扩散概率模型 DDPM Denoising Diffusion Probabilistic Models (DDPM) · 扩散、流匹配与生成模型
学会一步步把噪声还原成图像。 2020 - DDIM 快速采样 DDIM · 扩散、流匹配与生成模型
把扩散采样改成确定性过程,步数从上千降到几十。 2020 - 分数匹配与随机微分方程 Score-Based Models via SDEs · 扩散、流匹配与生成模型
用随机微分方程统一扩散模型,生成即逆向求解方程。 2020 - 潜空间扩散(Stable Diffusion) Latent Diffusion Models · 扩散、流匹配与生成模型
在 VAE 压缩后的潜空间里做扩散,大幅降低成本。 2021 - 无分类器引导 CFG Classifier-Free Guidance (CFG) · 扩散、流匹配与生成模型
同时预测有条件和无条件的结果,按比例放大差异,让图更贴合提示。 2022 - 扩散 Transformer DiT Diffusion Transformer (DiT) · 扩散、流匹配与生成模型
用 Transformer 代替 U-Net 做扩散去噪骨干。 2022 - 流匹配 Flow Matching · 扩散、流匹配与生成模型
直接学习把噪声“流动”成数据的速度场。 2022 - 整流(Rectified Flow) Rectified Flow · 扩散、流匹配与生成模型
把生成路径“拉直”,少数几步甚至一步就能生成。 2022 - 一致性模型 Consistency Models · 扩散、流匹配与生成模型
学会从轨迹上任一点一步跳到终点,实现一步生成。 2023 - ControlNet ControlNet · 扩散、流匹配与生成模型
给扩散模型加上边缘、姿态、深度等精确控制条件。 2023 - 视觉自回归 VAR Visual Autoregressive Modeling (VAR) · 扩散、流匹配与生成模型
按“由粗到细的分辨率”而不是逐像素做自回归生成图像。 2024 - 视觉 Transformer ViT Vision Transformer (ViT) · 多模态与视觉
把图像切成 16×16 小块当作“单词”,直接用 Transformer 处理。 2020 - CLIP 图文对比学习 CLIP (Contrastive Language–Image Pretraining) · 多模态与视觉
用 4 亿图文对训练,让图像和文字落在同一个向量空间。 2021 - SigLIP SigLIP (Sigmoid Loss) · 多模态与视觉
用逐对 sigmoid 损失代替 softmax 对比损失,训练更省更稳。 2023 - 视觉指令微调(LLaVA) Visual Instruction Tuning (LLaVA) · 多模态与视觉
用投影层把视觉编码器接到大模型上,再用图文指令数据微调。 2023 - Flamingo 交错图文模型 Flamingo · 多模态与视觉
在冻结的大模型中插入交叉注意力层,让它读懂穿插图片的文本。 2022 - Whisper 弱监督语音识别 Whisper · 多模态与视觉
用 68 万小时网络语音弱标注数据训练的通用语音识别。 2022 - Segment Anything(SAM) Segment Anything (SAM) · 多模态与视觉
点一下或画个框,就能分割图中任意物体的基础模型。 2023 - 神经辐射场与 3D 高斯泼溅 NeRF & 3D Gaussian Splatting · 多模态与视觉
从多张照片重建可任意视角渲染的 3D 场景。 2020 - 对比学习与 InfoNCE Contrastive Learning (InfoNCE) · RAG 与向量检索
拉近正样本对、推远负样本,学到好的嵌入。 2018 - BM25 关键词检索 BM25 · RAG 与向量检索
按词频与稀有度给文档打分的经典关键词检索。 2009 - 句向量(Sentence-BERT) Sentence Embeddings (Sentence-BERT) · RAG 与向量检索
把整句话编码成一个向量,用余弦相似度比较语义。 2019 - 稠密段落检索 DPR Dense Passage Retrieval (DPR) · RAG 与向量检索
用双塔编码器把问题和段落映射到同一空间进行检索。 2020 - ColBERT 后期交互 ColBERT (Late Interaction) · RAG 与向量检索
保留每个词的向量,在检索时做细粒度匹配,兼顾精度与速度。 2020 - HNSW 图索引 HNSW (Hierarchical Navigable Small World) · RAG 与向量检索
多层“小世界”图结构,实现亿级向量的毫秒级近似最近邻搜索。 2016 - 乘积量化 PQ Product Quantization (PQ) · RAG 与向量检索
把向量切段、每段用小码本编码,压缩几十倍还能快速算距离。 2011 - FAISS GPU 相似度搜索 FAISS (Billion-scale GPU Similarity Search) · RAG 与向量检索
Meta 开源的十亿级向量检索库及其 GPU 算法。 2017 - 套娃表示学习 Matryoshka Representation Learning · RAG 与向量检索
一个向量的前几维本身就是可用的小向量,可按需截断。 2022 - 检索增强生成 RAG Retrieval-Augmented Generation (RAG) · RAG 与向量检索
先检索相关文档,再让模型基于这些资料作答。 2020 - HyDE 假设文档检索 HyDE (Hypothetical Document Embeddings) · RAG 与向量检索
先让模型写一个“假想答案”,再用它去检索真实文档。 2022 - GraphRAG GraphRAG · RAG 与向量检索
先从文档构建知识图谱和社区摘要,再回答全局性问题。 2024 - ReAct 推理-行动循环 ReAct (Reason + Act) · Agent 与工具调用
让模型交替“想一步、做一步、看结果”。 2022 - Toolformer 自学用工具 Toolformer · Agent 与工具调用
模型自己学会何时、如何调用 API。 2023 - 函数调用 / 工具调用 Function Calling / Tool Use · Agent 与工具调用
模型按 JSON Schema 输出结构化的函数调用参数。 2023 - 模型上下文协议 MCP Model Context Protocol (MCP) · Agent 与工具调用
连接 AI 应用与外部工具/数据源的开放标准协议。 2024 - Reflexion 语言反思 Reflexion · Agent 与工具调用
失败后用文字写下反思,存进记忆,下次尝试时参考。 2023 - 生成式智能体与记忆 Generative Agents (Memory & Reflection) · Agent 与工具调用
带记忆流、反思和计划的 AI 角色,在小镇里模拟人类生活。 2023 - Agent-计算机接口(SWE-agent) Agent–Computer Interface (SWE-agent) · Agent 与工具调用
为大模型专门设计的命令行工具界面,显著提升自动修 bug 能力。 2024 - Q 学习 Q-Learning · 强化学习
学习“在某状态做某动作能拿多少长期回报”的表格或函数。 1992 - 深度 Q 网络 DQN Deep Q-Network (DQN) · 强化学习
用卷积网络近似 Q 函数,直接从像素学会玩 Atari 游戏。 2013 - 策略梯度 REINFORCE Policy Gradient (REINFORCE) · 强化学习
直接调整策略,让带来高回报的动作概率变大。 1992 - 近端策略优化 PPO Proximal Policy Optimization (PPO) · 强化学习
限制每次策略更新幅度,稳定又简单的策略梯度算法。 2017 - 软演员-评论家 SAC Soft Actor-Critic (SAC) · 强化学习
在最大化回报的同时最大化策略熵,样本效率高的离策略算法。 2018 - AlphaGo / AlphaZero(自对弈 + 蒙特卡洛树搜索) AlphaGo / AlphaZero (Self-Play + MCTS) · 强化学习
神经网络评估局面、树搜索向前推演,靠自我对弈从零学会下棋。 2016 - MuZero MuZero · 强化学习
不知道规则也能规划:学一个只预测有用量的内部模型。 2019 - 世界模型(Ha & Schmidhuber) World Models · 世界模型与自监督表征
先学一个能“做梦”的环境模型,再在梦里训练策略。 2018 - Dreamer(隐空间想象) Dreamer (Latent Imagination) · 世界模型与自监督表征
在学到的隐空间世界模型中想象未来轨迹来训练行为。 2019 - 联合嵌入预测架构 JEPA Joint-Embedding Predictive Architecture (JEPA) · 世界模型与自监督表征
在抽象表征空间里预测被遮住的部分,而不是重建像素。 2023 - Genie 可交互世界生成 Genie (Generative Interactive Environments) · 世界模型与自监督表征
从无标注游戏视频中学会生成可用键盘操控的世界。 2024 - SimCLR 自监督对比学习 SimCLR · 世界模型与自监督表征
同一图片的两种增强视图互为正样本,无标签学习视觉表征。 2020 - 掩码自编码器 MAE Masked Autoencoders (MAE) · 世界模型与自监督表征
遮住 75% 的图像块,让模型补全,从而学到视觉表征。 2021 - 图神经网络(GCN / GAT) Graph Neural Networks (GCN / GAT) · 图神经网络与科学 AI
每个节点聚合邻居信息来更新自己,用于图结构数据。 2016 - AlphaFold 2 蛋白质结构预测 AlphaFold 2 · 图神经网络与科学 AI
从氨基酸序列预测蛋白质 3D 结构,达到实验精度。 2021 - AlphaGeometry 神经-符号推理 AlphaGeometry (Neuro-Symbolic Reasoning) · 图神经网络与科学 AI
语言模型提出辅助线,符号引擎严格推导,解奥数几何题。 2024 - 特征归因(积分梯度 / SHAP) Feature Attribution (Integrated Gradients / SHAP) · 可解释性
计算每个输入特征对预测贡献了多少。 2017 - Grad-CAM 热力图 Grad-CAM · 可解释性
用梯度生成热力图,显示 CNN 看图时关注哪里。 2016 - Logit Lens 与探针 Logit Lens & Probing · 可解释性
把中间层的表示直接解码成词,或用小分类器探测其中编码的信息。 2020 - 电路与归纳头 Circuits & Induction Heads · 可解释性
找出模型中实现具体算法的“电路”,如复制前文模式的归纳头。 2022 - 叠加假说 Superposition · 可解释性
模型用比神经元更多的“特征”,把它们叠加压缩在同一组维度里。 2022 - 稀疏自编码器 SAE Sparse Autoencoders (SAE) · 可解释性
把模型激活分解成大量可解释的稀疏“特征”。 2023 - 电路追踪与归因图 Circuit Tracing & Attribution Graphs · 可解释性
用替代模型画出某次回答中特征之间的因果路径图。 2025 - 知识定位与编辑 ROME Locating & Editing Facts (ROME) · 可解释性
找到事实存储在哪一层,并直接修改那里的权重。 2022 - 激活引导 Activation Steering · 可解释性
在推理时给中间激活加一个“方向向量”来改变模型行为。 2023 - 对抗样本(FGSM) Adversarial Examples (FGSM) · 安全、评测与治理技术
在输入上加人眼几乎看不出的扰动,就能骗过模型。 2014 - GCG 通用越狱攻击 GCG Universal Jailbreak Attack · 安全、评测与治理技术
自动搜索一段“乱码后缀”,让对齐过的模型输出有害内容。 2023 - 间接提示注入 Indirect Prompt Injection · 安全、评测与治理技术
把恶意指令藏进网页、邮件或文档,借模型之手执行。 2023 - 自动化红队 Automated Red Teaming · 安全、评测与治理技术
用一个语言模型去生成攻击提示,测试另一个模型。 2022 - 大模型当评委 LLM-as-a-Judge · 安全、评测与治理技术
用强模型给其他模型的回答打分或做两两比较。 2023 - 大模型文本水印 LLM Watermarking · 安全、评测与治理技术
生成时暗中偏向一组“绿色”词,事后可统计检测 AI 文本。 2023 - 差分隐私 SGD Differentially Private SGD (DP-SGD) · 安全、评测与治理技术
训练时裁剪每个样本的梯度并加噪声,保证不泄露个体数据。 2016 - 弱到强泛化 Weak-to-Strong Generalization · 安全、评测与治理技术
用弱模型的标签监督强模型,研究人类如何监督超人 AI。 2023 - AI 辩论 AI Safety via Debate · 安全、评测与治理技术
让两个 AI 辩论,由人类裁判,帮助人类监督复杂问题。 2018 - 潜伏后门与欺骗性对齐 Sleeper Agents (Backdoors that Persist) · 安全、评测与治理技术
植入后门的模型能在安全训练后依然保持隐藏的恶意行为。 2024 - 循环语言模型(Looped LM) Looped Language Models · 新架构:SSM / 线性注意力
同一组层反复执行多次,用“算更多遍”代替“堆更多层”。 2018 - 正则化回归(Lasso / Ridge) Regularized Regression (Lasso / Ridge) · 经典机器学习
给线性模型的权重加惩罚,防止过拟合并自动筛选特征。 1996 - AdaBoost AdaBoost · 经典机器学习
串联许多弱分类器,每轮更关注上一轮分错的样本。 1997 - DBSCAN 密度聚类 DBSCAN (Density-Based Clustering) · 经典机器学习
按“点够不够密”来聚类,能找出任意形状的簇和噪声点。 1996 - 朴素贝叶斯 Naive Bayes · 经典机器学习
假设特征相互独立,用贝叶斯公式算出最可能的类别。 1997 - 门控循环单元(GRU) Gated Recurrent Unit (GRU) · 深度学习基础
比 LSTM 更简洁的门控 RNN,用两个门控制记住和遗忘。 2014 - 自编码器 Autoencoder · 深度学习基础
先把输入压缩成短向量再还原,学到数据的紧凑表示。 2006 - U-Net U-Net · 深度学习基础
先下采样再上采样、中间用跳连拼接的“U 形”卷积网络。 2015 - 权重初始化(Xavier / He) Weight Initialization (Xavier / He) · 深度学习基础
按层宽设定初始权重的方差,让信号和梯度不爆炸也不消失。 2010 - GloVe 词向量 GloVe · 深度学习基础
用全局词共现统计训练词向量,和 Word2Vec 齐名。 2014 - ELMo 上下文词向量 ELMo (Contextual Word Embeddings) · 深度学习基础
用双向 LSTM 语言模型,让同一个词在不同句子里有不同向量。 2018 - SentencePiece 分词 SentencePiece Tokenization · Transformer 与注意力
直接在原始文本上训练子词分词器,不依赖空格,适合中文等语言。 2018 - Faster R-CNN 目标检测 Faster R-CNN (Object Detection) · 多模态与视觉
先由网络提出候选框,再分类并精修位置的两阶段检测器。 2015 - YOLO 实时目标检测 YOLO (Real-Time Object Detection) · 多模态与视觉
一次前向就同时预测所有物体的框和类别,速度极快。 2015 - DETR(Transformer 目标检测) DETR (Detection Transformer) · 多模态与视觉
用 Transformer 把检测变成“集合预测”,去掉锚框和 NMS。 2020 - Swin Transformer Swin Transformer · 多模态与视觉
在局部窗口里算注意力并逐层合并,适合检测分割的层级视觉骨干。 2021 - DINOv2 自监督视觉特征 DINOv2 (Self-Supervised Visual Features) · 世界模型与自监督表征
不用标注,用自蒸馏在海量图片上训练通用视觉特征。 2023 - Actor-Critic 与 A3C/A2C Actor-Critic & A3C/A2C · 强化学习
策略网络负责行动、价值网络负责打分,用优势函数降低方差。 2016 - 信赖域策略优化(TRPO) Trust Region Policy Optimization (TRPO) · 强化学习
限制每次策略更新的 KL 步长,保证性能单调提升。 2015 - DDPG / TD3(连续动作控制) DDPG / TD3 (Continuous Control) · 强化学习
把 DQN 的思路搬到连续动作空间,用确定性策略加评论家网络。 2015 - 保守 Q 学习(CQL,离线强化学习) Conservative Q-Learning (CQL, Offline RL) · 强化学习
只用固定数据集学策略,压低没见过的动作的 Q 值以免盲目乐观。 2020 - Decision Transformer Decision Transformer · 强化学习
把强化学习当序列建模:给定目标回报,让 Transformer 预测下一个动作。 2021 - Self-Refine 自我反馈迭代 Self-Refine · 推理模型与测试时计算
同一个模型先写初稿,再自己点评,再按点评修改,循环几轮。 2023 - 标准化流(RealNVP / Glow) Normalizing Flows (RealNVP / Glow) · 扩散、流匹配与生成模型
用一串可逆变换把简单分布变成复杂分布,可以精确算似然。 2016 - CTC 序列对齐损失 Connectionist Temporal Classification (CTC) · 多模态与视觉
不用逐帧标注,就能训练语音、手写等输入输出长度不一的识别模型。 2006 - wav2vec 2.0 自监督语音表征 wav2vec 2.0 · 多模态与视觉
在无标注语音上做对比学习预训练,少量标注就能做好语音识别。 2020 - VALL-E 神经编解码语言模型 TTS VALL-E (Neural Codec Language Model TTS) · 多模态与视觉
把语音转成离散编码,用语言模型生成,几秒录音就能模仿音色。 2023 - 交叉编码器重排(BERT Reranker) Cross-Encoder Reranking · RAG 与向量检索
把查询和文档拼在一起送进 BERT 打相关分,给初筛结果重新排序。 2019 - 多智能体对话框架(AutoGen) Multi-Agent Conversation (AutoGen) · Agent 与工具调用
让多个分工不同的 LLM 智能体互相对话、调用工具,协作完成任务。 2023 - MemGPT 分层记忆 MemGPT (Hierarchical Agent Memory) · Agent 与工具调用
像操作系统管理内存一样,让 LLM 自己在上下文和外部存储之间搬运记忆。 2023 - 成员推断攻击 Membership Inference Attacks · 安全、评测与治理技术
判断某条数据是否被用来训练过模型,用来衡量隐私泄露。 2016
输入关键词或选择筛选条件即可看到结果;也可以在下面按领域浏览。
0220 个领域
每个领域按年份排开它的算法,并给出相关课程单元。
经典机器学习18 深度学习之前就成熟的统计学习方法,表格数据和小数据场景至今仍是主力。 主成分分析 · 逻辑回归 · K 近邻 深度学习基础23 神经网络如何被训练:反向传播、优化器、归一化、激活函数与经典网络结构。 随机梯度下降 · 感知机 · 反向传播 Transformer 与注意力18 大模型的骨架:注意力、位置编码、分词,以及 FlashAttention、GQA/MLA、长上下文等变体。 注意力机制(Bahdanau) · BPE 子词分词 · Transformer 与自注意力 混合专家 MoE6 只激活部分参数的稀疏模型,让总参数量大幅增加而计算量不按比例增长。 稀疏门控混合专家 · Switch Transformer · Mixtral(top-2 MoE) 新架构:SSM / 线性注意力11 Mamba、RWKV、线性注意力、混合架构与扩散语言模型等 Transformer 之外的路线。 Mamba 选择性状态空间 · RWKV · 门控 DeltaNet 预训练、缩放与分布式训练9 缩放定律、超参迁移、混合精度与并行训练,决定一个大模型怎么被“炼”出来。 混合精度与 FP8 训练 · 流水线并行 · ZeRO / FSDP 数据并行 对齐与偏好优化10 让模型听话、有用、无害:RLHF、DPO、宪法式 AI、GRPO 与可验证奖励强化学习。 奖励模型 · 人类反馈强化学习 RLHF · 宪法式 AI / RLAIF 推理模型与测试时计算9 思维链、自洽性、过程奖励与“多想一会儿”的测试时扩展,是 o1 / R1 类推理模型的基础。 思维链提示 · 自洽性投票 · STaR 自举推理 微调与参数高效训练8 用少量参数或数据把通用模型改造成专用模型:LoRA、QLoRA、指令微调、模型合并。 Adapter 适配器 · 指令微调(FLAN) · LoRA 低秩适配 量化、剪枝与蒸馏7 把大模型变小、变快、变省显存,让它能跑在单卡、笔记本甚至手机上。 知识蒸馏 · LLM.int8() 与离群值 · GPTQ 训练后量化 推理加速与服务10 KV Cache、推测解码、PagedAttention、连续批处理等让大模型服务又快又便宜的技术。 温度与 Top-p 采样 · 推测解码 · 连续批处理 扩散、流匹配与生成模型15 VAE、GAN、扩散模型、流匹配与 DiT:图像、视频、音频生成背后的算法。 变分自编码器 VAE · VQ-VAE 离散表示 · 去噪扩散概率模型 DDPM 多模态与视觉15 ViT、CLIP、视觉语言模型、语音识别、分割与 3D 重建,让 AI 看、听、理解世界。 CTC 序列对齐损失 · Faster R-CNN 目标检测 · YOLO 实时目标检测 RAG 与向量检索13 嵌入、向量索引、稠密检索、重排与 GraphRAG:给大模型接上外部知识。 BM25 关键词检索 · 乘积量化 PQ · HNSW 图索引 Agent 与工具调用9 ReAct、工具调用、MCP、反思与记忆:让模型能规划并操作外部世界。 ReAct 推理-行动循环 · 函数调用 / 工具调用 · Reflexion 语言反思 强化学习12 从 Q-learning 到 PPO、AlphaZero、MuZero:通过试错和奖励学习决策。 Q 学习 · 策略梯度 REINFORCE · 深度 Q 网络 DQN 世界模型与自监督表征7 在脑中模拟世界并预测未来:World Models、Dreamer、JEPA、Genie,以及对比学习、MAE 等自监督方法。 世界模型(Ha & Schmidhuber) · Dreamer(隐空间想象) · 掩码自编码器 MAE 图神经网络与科学 AI3 GCN、GAT 等图模型,以及 AlphaFold、AlphaGeometry 等改变科学研究的系统。 图神经网络(GCN / GAT) · AlphaFold 2 蛋白质结构预测 · AlphaGeometry 神经-符号推理 可解释性9 打开黑箱:归因、探针、叠加、稀疏自编码器、电路追踪与激活引导。 特征归因(积分梯度 / SHAP) · Logit Lens 与探针 · 电路与归纳头 安全、评测与治理技术11 对抗样本、越狱、提示注入、红队、水印、差分隐私与可扩展监督。 对抗样本(FGSM) · 成员推断攻击 · 自动化红队
03算法学习路线
五条按“前一个是后一个的基础”排好顺序的路线。
4 步 · 24 个算法 从零到深度学习从线性回归一路走到 ResNet 和 Transformer 的前身,打牢“模型如何被训练”的直觉。 难度 4 步 · 19 个算法 从零理解一个大模型从分词到 Transformer、现代架构、预训练和推理,按 nanoGPT 的顺序搞懂一个大模型的每个零件。 难度 4 步 · 19 个算法 后训练与推理模型从指令微调、LoRA 到 RLHF、DPO,再到 GRPO、RLVR 与 DeepSeek-R1,理解 ChatGPT 与 o1/R1 是怎么“炼”成的。 难度 4 步 · 20 个算法 AI 应用工程师面向做产品的工程师:检索、RAG、Agent、推理服务与安全,尽快把 AI 做成可靠的应用。 难度 5 步 · 26 个算法 生成式与前沿研究扩散/流匹配、多模态、新架构、世界模型与可解释性——2024–2026 年最活跃的研究方向。 难度
04图谱里最新的算法
按原始论文的发表年份。
电路追踪与归因图Circuit Tracing & Attribution Graphs 用替代模型画出某次回答中特征之间的因果路径图。 2025核心 DeepSeek-R1 推理强化学习配方DeepSeek-R1 Reasoning RL Recipe 只用结果奖励的大规模强化学习,就能让模型学会长链推理与自我反思。 2025核心 DAPO 面向长思维链强化学习的一组 GRPO 改进与开源系统。 2025核心 扩散语言模型Diffusion Language Models (LLaDA) 不按从左到右生成,而是从全遮盖逐步“去噪”出整段文本。 2025核心 原生稀疏注意力 NSANative Sparse Attention (NSA) 可训练、对硬件友好的动态稀疏注意力。 2025核心 预算强制(s1)Budget Forcing (s1) 用强行延长或截断“思考”的方法控制测试时算力。 2025扩展 AlphaGeometry 神经-符号推理AlphaGeometry (Neuro-Symbolic Reasoning) 语言模型提出辅助线,符号引擎严格推导,解奥数几何题。 2024核心 Genie 可交互世界生成Genie (Generative Interactive Environments) 从无标注游戏视频中学会生成可用键盘操控的世界。 2024核心
论文怎么核实
- “年份”取原始论文首次公开的年份(arXiv 首版或正式发表年)。
- 220 个算法有原始论文;标题、年份、链接都对照 arXiv API、Crossref 或官方页面核实过,绿色徽章表示已核实。
- 3 条尚未完全核实,页面上标黄色“待核实”:线性回归、决策树(CART)、KV Cache
- 所有链接都指向论文出版方、arXiv 或官方文档。给 AI 读:/api/learn/algorithms.json