通俗解释
把轨迹写成“期望回报、状态、动作”交替的序列,用 GPT 式的因果 Transformer 做监督学习。测试时输入想要的回报,模型就生成相应水平的动作。它不用价值函数和策略梯度,在离线 RL 基准上与当时的专门方法相当。
用在哪里:离线 RL 与“用序列模型做控制”的研究基线
01原始论文
Decision Transformer: Reinforcement Learning via Sequence Modeling
Lili Chen, Kevin Lu, Aravind Rajeswaran, et al. · 2021
arXiv ↗ ✓ 已核实 · arXiv API
02知识位置
左边先学;右边是学完它之后可以学的。
相关:保守 Q 学习(CQL,离线强化学习)世界模型(Ha & Schmidhuber)
左:前置 · 右:后继 · 虚线:相关。看完整关系图 →
03学习资料
官方文档、图解、课程和参考实现,链接都核对过。
04在课程里哪里学
给 AI 读 / 数据说明
- 核实状态:已核实,核对于 2026-10-22。
- JSON: /api/learn/algorithms.json (id:
decision-transformer)