第 4 阶段 · 精通与产业
安全与治理
提示注入、滥用、对齐风险，以及正在成形的 AI 规则。
3 节课1 节可读
- 01 提示注入与工具投毒 读取不可信内容的 agent 为什么会被劫持，以及有效的防御办法。 进阶 20 分钟 ✓
- 02 AI 治理与法规 欧盟 AI 法案、中国生成式 AI 管理办法、NIST AI RMF 及其要求。 进阶 20 分钟 ✎ 编写中
- 03 对齐与前沿风险 规格博弈、欺骗评估与前沿安全框架。 精通 20 分钟 ✎ 编写中
在新版课程里对应的单元
每个单元都有学习目标、要掌握的算法、必读论文、动手项目和自测题。