Skip to content
简体中文

切换主题

// ◎ Transformer 与注意力

SentencePiece 分词

直接在原始文本上训练子词分词器,不依赖空格,适合中文等语言。

SentencePiece Tokenization 又名 Unigram LM Tokenizer 2018 基础 核心

通俗解释

它把空格也当成普通字符,直接从原始句子学习子词表,支持 BPE 和 Unigram 两种算法,同一套规则既能切分也能无损还原。不用先做按语言定制的预分词,因此对中文、日文这类没有空格的语言特别友好。

用在哪里:T5、Llama 1/2、Gemma 等模型的分词器

时间轴 · 前置 → 当前 → 后继

2015 BPE 子词分词2018 SentencePiece 分词

01原始论文

SentencePiece: A simple and language independent subword tokenizer and detokenizer for Neural Text Processing

Taku Kudo, John Richardson · 2018

arXiv ↗ ✓ 已核实 · arXiv API

02知识位置

左边先学;右边是学完它之后可以学的。

先学

SentencePiece 分词

学完可以学

  • 图谱里暂无后继

相关:T5 文本到文本

BPE 子词分词T5 文本到文本 SentencePiece 分词

左:前置 · 右:后继 · 虚线:相关。看完整关系图 →

03学习资料

官方文档、图解、课程和参考实现,链接都核对过。

04在课程里哪里学

给 AI 读 / 数据说明

数据更新于:AI 算法图谱与课程体系(北京时间)