打开主菜单
首页
随机
登录
设置
关于集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
免责声明
集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
搜索
更改
←上一编辑
下一编辑→
Word2Vec
(查看源代码)
2025年6月28日 (六) 20:20的版本
添加4字节
、
2025年6月28日 (六) 20:20
→训练方法
第101行:
第101行:
'''负采样(Negative Sampling):'''
'''负采样(Negative Sampling):'''
−
负采样的核心思想在于将原始问题转换成一个二分类问题,让模型只区分正样本和负样本,例如在Skip
-gram中,对于一个中心词 <math>w_t</math> 和一个正确的上下文词 <math>w_o</math>,正确的上下文词被称为正样本。同时人为给出错误的上下文文本 <math>w'_{o_i}</math>,也就是负样本。负样本的采样一般按照词频 <math>U</math> 的 <math>3/4</math> 次方作为采样概率,即:
+
负采样的核心思想在于将原始问题转换成一个[[二分类问题]],让模型只区分正样本和负样本,例如在Skip
-gram中,对于一个中心词 <math>w_t</math> 和一个正确的上下文词 <math>w_o</math>,正确的上下文词被称为正样本。同时人为给出错误的上下文文本 <math>w'_{o_i}</math>,也就是负样本。负样本的采样一般按照词频 <math>U</math> 的 <math>3/4</math> 次方作为采样概率,即:
<math>
<math>
吃卤煮的火烧
91
个编辑