更改
跳到导航
跳到搜索
第285行:
第285行:
− +
→多层核机器(Multilayer kernel machine)
=== 多层核机器(Multilayer kernel machine) ===
=== 多层核机器(Multilayer kernel machine) ===
多层核机器 (MKM) 是通过迭代应用弱非线性核学习高度非线性函数的方法。它们使用【核主成分分析】 (KPCA),作为一种【无监督】贪心的逐层预训练步深度学习方法。
多层核机器 (MKM) 是通过迭代应用弱非线性核学习高度非线性函数的方法。它们使用【核主成分分析】 (KPCA),作为一种【无监督】贪心的逐层预训练步深度学习方法。
学到前面层 <math>l</math>的特征, 提取在核产生特征域的投影层 <math>l</math>的<math>n_l</math>【主成分】(PC) 。为了寻找每层更新表征的【降维】,【监督策略】从KPCA提取的特征中选择最佳有益特征。过程是:
学到前面层 <math>{l}</math>的特征, 提取在核产生特征域的投影层 <math>{l}</math>的<math>n_l</math>【主成分】(PC) 。为了寻找每层更新表征的【降维】,【监督策略】从KPCA提取的特征中选择最佳有益特征。过程是:
*排序 <math>n_l</math> 特征,根据它们带类标签的【交互信息】;
*排序 <math>n_l</math> 特征,根据它们带类标签的【交互信息】;
* 对 ''K'' 和 <math>m_l \in\{1, \ldots, n_l\}</math>的不同值,计算【k最近邻】(K-NN)分类器的分类错误率,在【验证集】中只使用 <math>m_l</math>最有益特征;
* 对 ''K'' 和 <math>m_l \in\{1, \ldots, n_l\}</math>的不同值,计算【k最近邻】(K-NN)分类器的分类错误率,在【验证集】中只使用 <math>m_l</math>最有益特征;