Skip to content
简体中文

切换主题

发现▾

不知道从哪开始？本周最热的软件、模型和组合，3 分钟看完 AI 圈的变化。

AI 软件▾

给人用的 AI 软件：从 ChatGPT 这类助手，到写代码、做视频、搭工作流的工具，按用途挑。

Agent 工具▾

给 AI 用的软件：让你的 agent（Claude Code、Codex、Cursor…）能上网、读文档、跑代码、记住事情。

模型▾

选模型、算成本、自己部署：价格、榜单、评测、免费额度和自建算力都在这里。

解决方案▾

有具体目标或报错？按场景给出现成的软件组合、步骤和问题解法。

学 AI▾

一套从零到前沿的系统课程，配算法库、必读论文和精选教程。

前沿▾

每天的 AI 新闻、每周热点、最新论文和 AI 改造各学科的进度。

// 软件组合

微调开放权重模型

准备数据、低显存微调、记录实验，再用推理引擎部署成 API。

6 个组件5 步搭建场景：在本机跑模型

组件与作用

  1. 1

    unsloth 训练与微调 开源

    省显存的快速微调

    更快更省显存的微调

    ★ 78k
  2. 2

    LlamaFactory 可选 训练与微调 开源

    带界面的一站式微调

    统一高效微调 100+ 模型

    ★ 76k
  3. 3

    datasets 训练与微调 开源

    加载和处理训练数据

    数据集加载与处理

    ★ 22k
  4. 4

    trl 训练与微调 开源

    SFT、DPO 等后训练

    基于 Transformers 的强化学习/偏好训练

    ★ 20k
  5. 5

    wandb 可观测与 trace 开源

    记录训练实验

    实验追踪客户端

    ★ 11k
  6. 6

    vllm 本地推理与推理引擎 开源

    部署成高吞吐推理服务

    高吞吐 LLM 推理与服务引擎

    ★ 95k

搭建步骤

  1. 01先确认真的需要微调：提示词、RAG 解决不了再微调
  2. 02用 datasets 整理训练数据，留出评测集
  3. 03单卡用 Unsloth 做 LoRA/QLoRA；要界面用 LLaMA-Factory；DPO 等后训练用 TRL
  4. 04用 W&B 记录每次实验
  5. 05合并权重后用 vLLM 部署成 API，和基座模型对比评测集分数

✓ 适合

  • 固定格式、领域术语、风格要求强

✗ 这些情况换别的

  • 知识经常变：用 RAG 更合适

数据更新于：AI 软件库与热度 · 解决方案 / 组合指南（北京时间）