Skip to content
简体中文

切换主题

// ◉ 多模态与视觉

Swin Transformer

在局部窗口里算注意力并逐层合并,适合检测分割的层级视觉骨干。

2021 进阶 扩展

通俗解释

ViT 对整张图做全局注意力,分辨率一高计算量就爆炸。Swin 只在小窗口内算注意力,下一层把窗口错开半格,让信息跨窗口流动,并像 CNN 一样逐层合并图块形成多尺度特征。这让 Transformer 能胜任检测、分割等密集预测任务。

用在哪里:检测、分割和视频理解的骨干网络

时间轴 · 前置 → 当前 → 后继

2020 视觉 Transforme…2021 Swin Transformer

01原始论文

Swin Transformer: Hierarchical Vision Transformer using Shifted Windows

Ze Liu, Yutong Lin, Yue Cao, et al. · 2021

arXiv ↗ ✓ 已核实 · arXiv API

02知识位置

左边先学;右边是学完它之后可以学的。

先学

Swin Transformer

学完可以学

  • 图谱里暂无后继

相关:滑动窗口/稀疏注意力DETR(Transformer 目标检测)

视觉 Transformer …滑动窗口/稀疏注意力DETR(Transforme… Swin Transformer

左:前置 · 右:后继 · 虚线:相关。看完整关系图 →

03学习资料

官方文档、图解、课程和参考实现,链接都核对过。

04在课程里哪里学

给 AI 读 / 数据说明

数据更新于:AI 算法图谱与课程体系(北京时间)