91
个编辑
更改
跳到导航
跳到搜索
第241行：
第241行： − + 第284行：
第284行： − +
→GloVe（Global Vectors for Word Representation）
===GloVe（Global Vectors for Word Representation）===
===GloVe（Global Vectors for Word Representation）===
==== 背景： ====
==== 背景 ====
GloVe 是由斯坦福大学的 Jeffrey Pennington、Richard Socher 和 Christopher D. Manning 于 2014 年提出，旨在结合传统基于计数的模型（如 LSA）和 Word2Vec 的优势，提出一种高效的全局词向量训练方法。
GloVe 是由斯坦福大学的 Jeffrey Pennington、Richard Socher 和 Christopher D. Manning 于 2014 年提出，旨在结合传统基于计数的模型（如 LSA）和 Word2Vec 的优势，提出一种高效的全局词向量训练方法。
这个函数可以防止高频词主导模型训练，也避免了低频词对整体模型质量的影响。
这个函数可以防止高频词主导模型训练，也避免了低频词对整体模型质量的影响。
==== 总结与对比: ====
==== 总结与对比 ====
* Word2Vec 是基于预测任务（局部上下文窗口），而 GloVe 是基于矩阵分解（全局共现频率）；
* Word2Vec 是基于预测任务（局部上下文窗口），而 GloVe 是基于矩阵分解（全局共现频率）；