Skip to content
简体中文

切换主题

// ⌖ 可解释性

特征归因(积分梯度 / SHAP)

计算每个输入特征对预测贡献了多少。

Feature Attribution (Integrated Gradients / SHAP) 2017 基础 核心

通俗解释

积分梯度沿从“空白基线”到真实输入的路径累积梯度;SHAP 用博弈论的 Shapley 值公平分配贡献。适合解释表格模型和分类器为何做出某个判断。

用在哪里:金融风控解释、医疗模型审计

时间轴 · 前置 → 当前 → 后继

1986 反向传播2017 特征归因(积分梯度 / SHAP)

01原始论文

Axiomatic Attribution for Deep Networks

Mukund Sundararajan, Ankur Taly, Qiqi Yan · 2017

arXiv ↗ ✓ 已核实 · arXiv API

备注:SHAP:arXiv:1705.07874(2017)

02知识位置

左边先学;右边是学完它之后可以学的。

先学

特征归因(积分梯度 / SHAP)

学完可以学

  • 图谱里暂无后继

相关:Grad-CAM 热力图稀疏自编码器 SAE

反向传播Grad-CAM 热力图稀疏自编码器 SAE 特征归因(积分梯度 / SHAP)

左:前置 · 右:后继 · 虚线:相关。看完整关系图 →

03学习资料

官方文档、图解、课程和参考实现,链接都核对过。

04在课程里哪里学

给 AI 读 / 数据说明

数据更新于:AI 算法图谱与课程体系(北京时间)