Skip to content
简体中文

切换主题

发现▾

不知道从哪开始？本周最热的软件、模型和组合，3 分钟看完 AI 圈的变化。

AI 软件▾

给人用的 AI 软件：从 ChatGPT 这类助手，到写代码、做视频、搭工作流的工具，按用途挑。

Agent 工具▾

给 AI 用的软件：让你的 agent（Claude Code、Codex、Cursor…）能上网、读文档、跑代码、记住事情。

模型▾

选模型、算成本、自己部署：价格、榜单、评测、免费额度和自建算力都在这里。

解决方案▾

有具体目标或报错？按场景给出现成的软件组合、步骤和问题解法。

学 AI▾

一套从零到前沿的系统课程，配算法库、必读论文和精选教程。

前沿▾

每天的 AI 新闻、每周热点、最新论文和 AI 改造各学科的进度。

// 软件组合

在自己电脑上跑大模型

从一键安装到命令行调参：下载开放权重模型，在本机推理，并提供 OpenAI 兼容接口给其他工具用。

5 个组件5 步搭建场景：在本机跑模型

组件与作用

  1. 1

    Ollama 本地推理与推理引擎 开源

    最简单的本地模型运行和 API

    本地一键运行开放权重大模型

    ★ 184k
  2. 2

    LM Studio 本地推理与推理引擎 闭源 / 商业

    图形界面下载和试用模型

    图形界面的本地大模型下载与运行工具，提供 OpenAI 兼容接口。

  3. 3

    llama.cpp 本地推理与推理引擎 开源

    底层推理引擎，适合精细调参

    812 名提交者；--jinja 模板与工具调用兼容

    ★ 132k
  4. 4

    jan 可选 AI 应用与对话客户端 开源

    开源离线对话客户端

    离线运行 LLM 的桌面应用

    ★ 45k
  5. 5

    open-webui 可选 AI 应用与对话客户端 开源

    浏览器里的多模型对话界面

    自托管 AI 对话界面

    ★ 156k

搭建步骤

  1. 01先用本站显存计算器查自己的显存/内存能跑多大的模型
  2. 02新手装 LM Studio（图形界面）或 Ollama（一行命令 ollama run <模型名>）
  3. 03需要网页界面或多人用时，加 Open WebUI 连接本机模型
  4. 04想接入其他工具时，用它们提供的 OpenAI 兼容接口（Ollama 默认 11434 端口）
  5. 05要精细调参（量化、上下文、GPU 层数）再换 llama.cpp

✓ 适合

  • 隐私、离线、想免费无限次用

✗ 这些情况换别的

  • 需要最强模型能力：本地 8–32B 模型明显弱于顶级云端模型

数据更新于：AI 软件库与热度 · 解决方案 / 组合指南（北京时间）