通俗解释
GPT-3 只做“预测下一个词”的预训练,却能在提示里给几个示例后直接完成翻译、问答等任务,无需更新参数。这让“提示词”成为一种新的编程方式。
用在哪里:所有通用聊天模型的提示用法
时间轴 · 前置 → 当前 → 后继
01原始论文
Language Models are Few-Shot Learners
Tom B. Brown, Benjamin Mann, Nick Ryder, et al. · 2020
arXiv ↗ ✓ 已核实 · arXiv API
02知识位置
左边先学;右边是学完它之后可以学的。
GPT-3 与上下文学习
左:前置 · 右:后继 · 虚线:相关。看完整关系图 →
03学习资料
官方文档、图解、课程和参考实现,链接都核对过。
04在课程里哪里学
U00 AI、机器学习、深度学习与大模型是什么 用一张图理清 AI 家族关系,知道大模型如何“预测下一个 token”。 3 小时2 个算法1 篇论文已有正文 U01 提示词与高效使用 AI 掌握角色、上下文、示例、分步思考与结构化输出等提示技巧。 3 小时3 个算法1 篇论文 U41 Transformer 与注意力 自注意力、多头、位置编码、残差与归一化,从零实现 GPT。 16 小时6 个算法3 篇论文已有正文
所在学习路线:从零理解一个大模型
给 AI 读 / 数据说明
- 核实状态:已核实,核对于 2026-10-21。
- JSON: /api/learn/algorithms.json (id:
gpt3-icl)