// 课程 · 第 9 阶段（共 9 阶）
安全、评测与前沿
评测与基准、可解释性、安全攻防、治理、AI for Science 与前沿追踪。
6 个单元约 44 小时29 个算法
01本阶段单元
按顺序学。每个单元都有学习目标、要掌握的算法、必读论文、动手项目和自测题。
01 · U90 评测与基准 主流基准、竞技场、数据污染、能力评估的局限。 6 小时2 个算法2 篇论文已有正文 02 · U91 可解释性：从归因到电路 归因、探针、Logit Lens、叠加、SAE、电路追踪、知识编辑与激活引导。 10 小时9 个算法4 篇论文已有正文 03 · U92 安全攻防：越狱、注入与隐私 对抗样本、GCG、提示注入、红队、水印、差分隐私、后门。 6 小时8 个算法4 篇论文已有正文 04 · U93 前沿风险、可扩展监督与治理 弱到强泛化、辩论、宪法式 AI、风险框架与法规（欧盟 AI 法案、NIST AI RMF）。 6 小时4 个算法3 篇论文 05 · U94 AI for Science 与各学科应用 图神经网络、AlphaFold、AlphaGeometry、自动化科研，与本站“AI × 学科”板块联动。 10 小时4 个算法3 篇论文 06 · U95 如何追踪前沿：读论文与复现 读论文三遍法、追踪 arXiv/会议、复现与写作。 6 小时3 个算法0 篇论文
02会学到的算法
算法图谱 →大模型当评委涌现能力特征归因（积分梯度 / SHAP）Grad-CAM 热力图Logit Lens 与探针电路与归纳头叠加假说稀疏自编码器 SAE电路追踪与归因图知识定位与编辑 ROME激活引导对抗样本（FGSM）GCG 通用越狱攻击间接提示注入自动化红队大模型文本水印差分隐私 SGD潜伏后门与欺骗性对齐成员推断攻击弱到强泛化AI 辩论宪法式 AI / RLAIF图神经网络（GCN / GAT）AlphaFold 2 蛋白质结构预测AlphaGeometry 神经-符号推理可验证奖励强化学习 RLVRTransformer 与自注意力组相对策略优化 GRPO流匹配