算力与硬件
分布式训练与集群
数据并行、张量并行、流水线并行、互联与大规模故障。
精通 20 分钟 适合: 研究者 ✎ 编写中
✎ 本课正在编写,下面是规划好的大纲;正文完成前不会被搜索引擎收录。
本课将讲什么
- 数据并行与 ZeRO
- 张量并行与流水线并行
- 互联网络
- 检查点与故障
算力与硬件
数据并行、张量并行、流水线并行、互联与大规模故障。
精通 20 分钟 适合: 研究者 ✎ 编写中
✎ 本课正在编写,下面是规划好的大纲;正文完成前不会被搜索引擎收录。
链接指向原始发布方。
数据更新于:学 AI 课程 · 课程相关新闻(北京时间)