Skip to content
简体中文

切换主题

// ♞ 强化学习

Decision Transformer

把强化学习当序列建模:给定目标回报,让 Transformer 预测下一个动作。

2021 进阶 扩展

通俗解释

把轨迹写成“期望回报、状态、动作”交替的序列,用 GPT 式的因果 Transformer 做监督学习。测试时输入想要的回报,模型就生成相应水平的动作。它不用价值函数和策略梯度,在离线 RL 基准上与当时的专门方法相当。

用在哪里:离线 RL 与“用序列模型做控制”的研究基线

时间轴 · 前置 → 当前 → 后继

2013 深度 Q 网络 DQN2017 Transformer 与…2021 Decision Transfor…

01原始论文

Decision Transformer: Reinforcement Learning via Sequence Modeling

Lili Chen, Kevin Lu, Aravind Rajeswaran, et al. · 2021

arXiv ↗ ✓ 已核实 · arXiv API

02知识位置

左边先学;右边是学完它之后可以学的。

先学

Decision Transformer

学完可以学

  • 图谱里暂无后继

相关:保守 Q 学习(CQL,离线强化学习)世界模型(Ha & Schmidhuber)

03学习资料

官方文档、图解、课程和参考实现,链接都核对过。

04在课程里哪里学

给 AI 读 / 数据说明

数据更新于:AI 算法图谱与课程体系(北京时间)