Skip to content
简体中文

切换主题

// ⛨ 安全、评测与治理技术

对抗样本(FGSM)

在输入上加人眼几乎看不出的扰动,就能骗过模型。

Adversarial Examples (FGSM) 2014 基础 核心

通俗解释

沿损失梯度的符号方向给图片加极小扰动,模型就会高置信度地误判。作者认为根源是模型的高维线性行为,并提出对抗训练作为防御。

用在哪里:自动驾驶、人脸识别的鲁棒性测试

时间轴 · 前置 → 当前 → 后继

1986 反向传播1998 卷积神经网络2014 对抗样本(FGSM)2023 GCG 通用越狱攻击2024 潜伏后门与欺骗性对齐

01原始论文

Explaining and Harnessing Adversarial Examples

Ian J. Goodfellow, Jonathon Shlens, Christian Szegedy · 2014

arXiv ↗ ✓ 已核实 · arXiv API

02知识位置

左边先学;右边是学完它之后可以学的。

反向传播卷积神经网络GCG 通用越狱攻击潜伏后门与欺骗性对齐 对抗样本(FGSM)

左:前置 · 右:后继 · 虚线:相关。看完整关系图 →

03学习资料

官方文档、图解、课程和参考实现,链接都核对过。

04在课程里哪里学

给 AI 读 / 数据说明

数据更新于:AI 算法图谱与课程体系(北京时间)