推理与部署
在自己电脑上运行大模型
显存估算、量化模型,以及私密离线使用的桌面软件。
进阶 15 分钟 适合: 初学者 / 开发者 ✎ 编写中
✎ 本课正在编写,下面是规划好的大纲;正文完成前不会被搜索引擎收录。
本课将讲什么
- 一个模型需要多少内存
- 怎么选量化版本
- 桌面软件与命令行工具
- 隐私与许可证
推理与部署
显存估算、量化模型,以及私密离线使用的桌面软件。
进阶 15 分钟 适合: 初学者 / 开发者 ✎ 编写中
✎ 本课正在编写,下面是规划好的大纲;正文完成前不会被搜索引擎收录。
数据更新于:学 AI 课程 · 课程相关新闻(北京时间)