Word2Vec

Intro

Word2Vec 是一种将词语（Word）映射为连续向量（Vector）的高效建模技术，它通过在大规模文本语料中自动学习，使每个词表示为一个低维、密集、连续的向量（Embedding），这种向量能够捕捉词语之间的语义和句法关系。

训练后，通过word2vec模型得到的词向量（Word Embeddings）可以广泛应用于各种自然语言处理（NLP）任务中，包括机器翻译（Machine Translation）、信息检索（Information Retrieval）、文本分类（Text Classification）以及情感分析（Sentiment Analysis）等。

传统方法（如N-gram）将词视为离散的ID，无法表达词语间的联系，而word2vec模型将词嵌入到连续空间，相近意义的词在向量空间中距离更近，为后续复杂的模型（如 Transformer）提供了基础。

历史背景

• 开发者和提出时间（Tomas Mikolov 等，2013，Google）
• 相关技术的前身（如神经语言模型、潜在语义分析）
• Word2Vec 的影响和后续发展

技术原理

基本概念

• 词嵌入（Word Embedding）的定义
• 分布式假设（Distributional Hypothesis）
• 向量空间模型

模型架构

1. 连续词袋模型（CBOW, Continuous Bag of Words）
   • 原理：通过上下文预测目标词
   • 结构：输入层、隐藏层、输出层
2. Skip-gram 模型
   • 原理：通过目标词预测上下文
   • 与 CBOW 的对比

训练方法

• 负采样（Negative Sampling）
• 层次 Softmax（Hierarchical Softmax）
• 优化算法（如随机梯度下降）

应用领域

• 自然语言处理（语义分析、机器翻译、文本分类）
• 推荐系统
• 信息检索
• 其他领域（如生物信息学、社会科学）

优缺点

优点

• 计算高效
• 能捕捉语义和语法关系
• 适用于大规模语料库

局限性

• 无法处理多义词（Polysemy）
• 依赖局部上下文，忽略全局信息
• 需要大量训练数据

相关技术与扩展

• GloVe（Global Vectors for Word Representation）
• FastText
• BERT 和 Transformer 模型
• 动态词嵌入（如 ELMo）

开源实现与工具

• Gensim 库
• TensorFlow / PyTorch 实现
• 原始 C 语言实现（Google Code）