Skip to content
简体中文

切换主题

推理与部署

在自己电脑上运行大模型

显存估算、量化模型,以及私密离线使用的桌面软件。

进阶 15 分钟 适合: 初学者 / 开发者 ✎ 编写中

🖥️自建算力显存计算器与档位选择(已并入「自建算力」专区)→

✎ 本课正在编写,下面是规划好的大纲;正文完成前不会被搜索引擎收录。

本课将讲什么

  1. 一个模型需要多少内存
  2. 怎么选量化版本
  3. 桌面软件与命令行工具
  4. 隐私与许可证

本课相关软件

所属学习路线

数据更新于:学 AI 课程 · 课程相关新闻(北京时间)