Skip to content
简体中文

切换主题

// ⛨ 安全、评测与治理技术

GCG 通用越狱攻击

自动搜索一段“乱码后缀”,让对齐过的模型输出有害内容。

GCG Universal Jailbreak Attack 2023 进阶 核心

通俗解释

用梯度引导的贪心坐标搜索优化提示后缀,使模型以“当然,以下是…”开头作答。找到的后缀可迁移到闭源模型,揭示对齐的脆弱性。

用在哪里:模型安全评测与防御研究

时间轴 · 前置 → 当前 → 后继

2014 对抗样本(FGSM)2022 人类反馈强化学习 RLHF2023 GCG 通用越狱攻击

01原始论文

Universal and Transferable Adversarial Attacks on Aligned Language Models

Andy Zou, Zifan Wang, Nicholas Carlini, et al. · 2023

arXiv ↗ ✓ 已核实 · arXiv API

02知识位置

左边先学;右边是学完它之后可以学的。

先学

GCG 通用越狱攻击

学完可以学

  • 图谱里暂无后继

相关:自动化红队间接提示注入

对抗样本(FGSM)人类反馈强化学习 RLHF自动化红队间接提示注入 GCG 通用越狱攻击

左:前置 · 右:后继 · 虚线:相关。看完整关系图 →

03学习资料

官方文档、图解、课程和参考实现,链接都核对过。

04在课程里哪里学

给 AI 读 / 数据说明

数据更新于:AI 算法图谱与课程体系(北京时间)