Skip to content
简体中文

切换主题

// ⛨ 安全、评测与治理技术

成员推断攻击

判断某条数据是否被用来训练过模型,用来衡量隐私泄露。

Membership Inference Attacks 2016 进阶 核心

通俗解释

模型往往对训练过的样本更“自信”。攻击者训练若干模仿目标模型的“影子模型”,学会根据输出置信度区分“见过”和“没见过”的样本。它是评估模型隐私风险的标准方法,也用来检测大模型是否背过版权文本或测试集。差分隐私训练(DP-SGD)是主要防御。

用在哪里:模型隐私审计、训练数据泄露与测试集污染检测

时间轴 · 前置 → 当前 → 后继

1958 逻辑回归2016 成员推断攻击

01原始论文

Membership Inference Attacks against Machine Learning Models

Reza Shokri, Marco Stronati, Congzheng Song, et al. · 2016

arXiv ↗ ✓ 已核实 · arXiv API

02知识位置

左边先学;右边是学完它之后可以学的。

先学

成员推断攻击

学完可以学

  • 图谱里暂无后继

相关:差分隐私 SGD大模型文本水印

逻辑回归差分隐私 SGD大模型文本水印 成员推断攻击

左:前置 · 右:后继 · 虚线:相关。看完整关系图 →

03学习资料

官方文档、图解、课程和参考实现,链接都核对过。

04在课程里哪里学

给 AI 读 / 数据说明

数据更新于:AI 算法图谱与课程体系(北京时间)