Transformer 与大模型原理
缩放定律与“涌现”
损失如何随参数、数据和算力下降，以及 Chinchilla 改变了什么。
高级 15 分钟 适合: 研究者 / 开发者 ✎ 编写中
✎ 本课正在编写，下面是规划好的大纲；正文完成前不会被搜索引擎收录。
本课将讲什么
- Kaplan 等人的幂律
- 算力最优训练（Chinchilla）
- 涌现能力及其争议
- 测试时算力扩展
相关 AI 新闻
链接指向原始发布方。
- Turning Database Grading into RL Rewards: Post-Training Agents with ThinkingBoxHugging Face Blog ·
- Microsoft and the Public Library Association expand free AI literacy trainingMicrosoft Source ·
- Write your own training loop — without managing GPUs — with Amazon SageMaker training session APIsAWS Machine Learning Blog ·
- NVIDIA Cosmos Opens New Tools to Train, Evaluate and Deploy World ModelsNVIDIA Blog ·
- Train Qwen3 on AWS Trainium with torchtitanAWS Machine Learning Blog ·