Skip to content
简体中文

切换主题

// ⬡ 深度学习基础

GloVe 词向量

用全局词共现统计训练词向量,和 Word2Vec 齐名。

GloVe 2014 入门 扩展

通俗解释

先统计整个语料中“两个词一起出现多少次”,再训练词向量,使两个向量的点积接近共现次数的对数。它把计数法和预测法的优点结合起来,训练出的向量同样能做“国王 − 男人 + 女人 ≈ 女王”这类类比。

用在哪里:预训练词向量基线、NLP 教学

时间轴 · 前置 → 当前 → 后继

2013 Word2Vec 词向量2014 GloVe 词向量

01原始论文

GloVe: Global Vectors for Word Representation

Jeffrey Pennington, Richard Socher, Christopher Manning · EMNLP 2014 · 2014

DOI ↗ ✓ 已核实 · Crossref API doi:10.3115/v1/D14-1162

02知识位置

左边先学;右边是学完它之后可以学的。

先学

GloVe 词向量

学完可以学

  • 图谱里暂无后继

相关:ELMo 上下文词向量

Word2Vec 词向量ELMo 上下文词向量 GloVe 词向量

左:前置 · 右:后继 · 虚线:相关。看完整关系图 →

03学习资料

官方文档、图解、课程和参考实现,链接都核对过。

04在课程里哪里学

给 AI 读 / 数据说明

数据更新于:AI 算法图谱与课程体系(北京时间)