Skip to content
简体中文

切换主题

AI 与大模型入门

AI、机器学习、深度学习、生成式 AI 有什么区别?一张图讲清关系

入门 10 分钟 适合: 初学者

本课要点

  • ▸四个词是层层包含的关系:人工智能(AI)⊃ 机器学习(ML)⊃ 深度学习(DL)⊃ 今天的生成式 AI(大模型、文生图等)。
  • ▸规则式 AI 由人写规则;机器学习从数据里自己学规则。监督、无监督、强化学习是三种主要的学习方式。
  • ▸深度学习用多层神经网络自动学特征,在大数据和 GPU 出现后,从 2012 年的图像识别开始全面胜出。
  • ▸判别式模型回答“这是什么”(分类、打分),生成式模型回答“再造一个像这样的”(文字、图片、代码)。大语言模型是生成式模型。

一句话回答

人工智能(Artificial Intelligence,AI) 是最大的圈:让机器完成需要“智能”的任务。机器学习(Machine Learning,ML) 是其中一种做法:不由人写规则,而让程序从数据里学规则。深度学习(Deep Learning,DL) 是机器学习里用多层神经网络的那一支。今天常说的 生成式 AI(Generative AI),比如大语言模型和文生图模型,基本都是深度学习做出来的“会生成内容”的模型。

flowchart TB
  subgraph AI["人工智能 AI:让机器完成需要智能的任务"]
    R["规则式 AI:专家系统、搜索、规划"]
    subgraph ML["机器学习 ML:从数据中学规则"]
      T["传统 ML:线性回归、决策树、梯度提升"]
      subgraph DL["深度学习 DL:多层神经网络"]
        D["判别式:图像分类、语音识别"]
        G["生成式 AI:大语言模型、文生图、语音合成"]
      end
    end
  end

规则式 AI 与学习式 AI

早期的 AI 主要靠人写规则。比如一个识别垃圾邮件的程序,可以写“标题里有‘中奖’就判为垃圾”。这种规则式 AI(也叫符号 AI、专家系统)透明、可控,但规则写不完:骗子换个说法就绕过去了。

机器学习换了思路:收集一大批已标好“垃圾/正常”的邮件,让算法自己找出哪些特征和结果有关。规则不再由人逐条写出,而是存在模型的参数里。数据变了,重新训练即可。

三种主要的学习方式

方式 给模型什么 典型任务
监督学习(supervised) 输入 + 正确答案(标签) 垃圾邮件分类、房价预测、图像识别
无监督 / 自监督学习(unsupervised / self-supervised) 只有输入,没有人工标签 聚类、降维;大模型预训练“预测下一个 token”属于自监督
强化学习(reinforcement learning) 环境 + 奖励信号 下棋、机器人控制;大模型对齐中的 RLHF

大模型的训练恰好把三种方式都用上了:先在海量文本上自监督预训练,再用人写的示范做监督微调,最后用人类偏好做强化学习(见 大模型如何学习)。

深度学习为什么胜出

传统机器学习往往需要人先设计“特征”(例如图片的边缘、颜色直方图)。深度学习用很多层神经网络,让前几层自动学到简单特征、后几层组合成复杂概念,省掉了大部分手工特征工程(LeCun、Bengio、Hinton,2015)。

它在 2012 年迎来转折:AlexNet 用 GPU 训练的深度卷积网络,在 ImageNet 图像识别比赛上大幅领先(Krizhevsky 等,2012)。此后语音识别、机器翻译陆续转向深度学习。2017 年的 Transformer 结构(Vaswani 等)让模型能高效地并行训练,成为今天几乎所有大模型的底座。神经网络本身怎么工作,见 神经网络入门。

三个条件缺一不可:更多的数据(互联网)、更强的算力(GPU)、更好的结构与训练方法。

生成式模型与判别式模型

  • 判别式模型学的是“给定输入,答案是什么”:这张图是猫还是狗?这笔交易有没有风险?输出是类别或分数。
  • 生成式模型学的是“数据长什么样”,因此能造出新的样本:写一段文字、画一张图、合成一段语音。GAN(Goodfellow 等,2014)、扩散模型和大语言模型都属于这一类。

大语言模型通过反复“预测下一个 token”来生成文字(见 大模型是什么)。GPT-3 的论文还展示了:模型足够大后,只要在提示里给几个例子,它就能完成没专门训练过的任务(Brown 等,2020)。这也是下一课 提示词基础 的出发点。

常见误区

  • “AI = 大模型”:大模型只是最新、最显眼的一支。推荐系统、风控、导航、OCR 里大量用的是其他 AI 方法。
  • “深度学习一定比传统机器学习好”:数据少、特征清晰的表格任务,梯度提升树往往更准、更快、更好解释。
  • “模型从数据里学到的就是事实”:模型学到的是统计规律,数据有偏差,模型也会有偏差;生成式模型还会“幻觉”。

动手试试

  1. 打开 Teachable Machine,不写代码,用摄像头给两种手势各拍几十张图,训练一个分类器——这就是监督学习。
  2. 打开 TensorFlow Playground,把隐藏层从 0 层加到 3 层,看决策边界如何从直线变成复杂曲线——这就是“深度”的作用。
  3. 想入门系统学习,可以从免费的 Elements of AI、AI for Everyone 或 Google 机器学习速成课 开始。

常见问题

ChatGPT 属于哪一层?

四层都属于:它是 AI,靠机器学习训练,用的是深度神经网络(Transformer),并且是生成式的——逐个 token 生成文字。

所有 AI 都要用机器学习吗?

不是。导航里的最短路径算法、早期的专家系统、象棋程序里的搜索都属于 AI,但规则和搜索方法由人设计,不从数据学习。

深度学习和机器学习是对立的吗?

不是。深度学习是机器学习的一个分支,特点是用多层神经网络。很多表格数据任务上,梯度提升树等“传统”机器学习方法依然常用且好用。

生成式 AI 会取代判别式模型吗?

两者常常一起用:生成式大模型也可以通过提示来做分类;而垃圾邮件过滤、风控打分等场景,专门训练的小型判别模型往往更快、更便宜、更好评估。

出处与延伸阅读

  1. LeCun、Bengio、Hinton(2015),Deep learning,Nature 521
  2. Krizhevsky、Sutskever、Hinton(2012),ImageNet Classification with Deep Convolutional Neural Networks(AlexNet),NeurIPS
  3. Goodfellow 等(2014),Generative Adversarial Networks
  4. Vaswani 等(2017),Attention Is All You Need
  5. Brown 等(2020),Language Models are Few-Shot Learners(GPT-3)
  6. Elements of AI(赫尔辛基大学免费课程)
  7. DeepLearning.AI,AI for Everyone(吴恩达)
  8. Google,Machine Learning Crash Course

所属学习路线

数据更新于:学 AI 课程 · 课程相关新闻(北京时间)