通俗解释
它把空格也当成普通字符,直接从原始句子学习子词表,支持 BPE 和 Unigram 两种算法,同一套规则既能切分也能无损还原。不用先做按语言定制的预分词,因此对中文、日文这类没有空格的语言特别友好。
用在哪里:T5、Llama 1/2、Gemma 等模型的分词器
01原始论文
SentencePiece: A simple and language independent subword tokenizer and detokenizer for Neural Text Processing
Taku Kudo, John Richardson · 2018
arXiv ↗ ✓ 已核实 · arXiv API
02知识位置
左边先学;右边是学完它之后可以学的。
相关:T5 文本到文本
左:前置 · 右:后继 · 虚线:相关。看完整关系图 →
03学习资料
官方文档、图解、课程和参考实现,链接都核对过。
04在课程里哪里学
给 AI 读 / 数据说明
- 核实状态:已核实,核对于 2026-10-22。
- JSON: /api/learn/algorithms.json (id:
sentencepiece)