更改
跳到导航
跳到搜索
第196行：
第196行： − 【File:Restricted_Boltzmann_machine.svg|thumb|一个带有全连接可见和隐藏单元的【受限玻尔兹曼机】 (RBM) 。注意没有隐藏-隐藏和可见-可见连接。】+ − 一个深度置信网络（DBN）是一个概率的【生成模型】，它由多层隐藏层组成。可以被认为是一个组成每一层的简单学习模块的【组合】。+
→深度置信网络（Deep belief networks）
=== 深度置信网络（Deep belief networks） ===
=== 深度置信网络（Deep belief networks） ===
[File:Restricted_Boltzmann_machine.svg.png|thumb|一个带有全连接可见和隐藏单元的[https://en.wikipedia.org/wiki/Restricted_Boltzmann_machine 受限玻尔兹曼机] (RBM) 。注意没有隐藏-隐藏和可见-可见连接。]
一个深度置信网络（DBN）是一个概率的[https://en.wikipedia.org/wiki/Generative_model 生成模型]，它由多层隐藏层组成。可以被认为是一个组成每一层的简单学习模块的[https://en.wikipedia.org/wiki/Function_composition 组合]。
一个DN可以被用于生成地预训练一个DNN，通过使用学习的DBN权重和初始DNN权重。
一个DN可以被用于生成地预训练一个DNN，通过使用学习的DBN权重和初始DNN权重。
反向传播或其他差别算法就可以调整这些权重。当训练数据有限时特别有用，因为很差的初始化的权重可以显著阻碍模型表现。这些预训练的权重在权重空间的范围内，这个权重空间距离最优权重比随机选择的权重更近。这允许既提高模型表现又加快好的调整相位收敛。
反向传播或其他差别算法就可以调整这些权重。当训练数据有限时特别有用，因为很差的初始化的权重可以显著阻碍模型表现。这些预训练的权重在权重空间的范围内，这个权重空间距离最优权重比随机选择的权重更近。这允许既提高模型表现又加快好的调整相位收敛。