5,443
个编辑
更改
跳到导航
跳到搜索
第61行：
第61行： − + − ### 有效信息（EI）的分解与因果平面+ − 如上文所述，**有效信息（Effective Information, EI）** 取决于网络中连接的权重以及这些权重之间的重叠程度。这两者共同构成了 **EI 流形**。这意味着 **EI** 可以分解为两个关键属性：**敏感度（Sensitivity）** 和 **简并度（Degeneracy）**。**敏感度**衡量网络中每条边独立传输信息的能力，而 **简并度**衡量由于边权重重叠导致的信息损失。这种分解方式类似于之前在布尔网络或马尔可夫链中将 **EI** 分解为**确定性**和**简并度**的做法<ref name=":0" /><ref name=":1" />。不过，在神经网络中，由于网络是确定性的，我们用**敏感度**代替了**确定性**。+ − 在深度神经网络（DNN）中，**敏感度**衡量输入层的扰动能够多大程度地传递到输出层。如果敏感度高，说明网络对输入的变化非常敏感。而 **简并度**衡量通过输出层的激活值能否重建输入层的扰动源。如果简并度高，说明网络中的信息重叠较多，导致扰动源难以被准确重建。这两个属性共同构成了一个称为**因果平面**的二维空间，所有神经网络层都可以在这个平面中找到自己的位置。随着网络的学习，不同层的因果结构会逐渐分化，反映出它们对网络功能的贡献。+ − − 为了量化这些属性，**敏感度**是通过计算网络中每条边的独立贡献来衡量的。具体公式为： − + − **简并度**衡量的是由于边权重重叠导致的信息损失，计算公式为：+ 第81行：
第79行： − + − − 在实验中，我们观察到，**MNIST 任务**由于任务更复杂，网络层的因果结构在因果平面中表现出更大的分化，而 **Iris 任务**由于任务较简单，网络层的因果结构分化较少，且更倾向于沿 **EI 零线** 移动。此外，我们还发现，**冗余层**在因果平面中移动较少，表明它们对网络因果结构的贡献有限，而**动态层**在因果平面中表现出更大的移动，反映出它们对网络功能的重要贡献。 − − ### 总结 − − 通过分解 **EI** 为**敏感度**和**简并度**，我们能够更好地理解神经网络中因果结构的变化。**因果平面**为我们提供了一种直观的方式来可视化网络层在训练过程中的演化，并揭示了不同层对网络功能的贡献。这些发现有助于我们设计更高效、更可解释的神经网络。 − − − 如上文所述，EI取决于连接的权重及其重叠程度，这两者共同构成了EI流形。这表明，EI可以分解为两个属性：由个体权重表示的因果关系的敏感度，以及由于输入权重重叠而导致的这些关系的通用性。这反映了之前将EIin布尔网络或马尔可夫链分解为确定性（这里用敏感度代替，因为神经网络传统上是确定性）和简并性<ref name=":0" /><ref name=":1" />。 − − 在DNN中，层的灵敏度衡量输入将扰动传输到输出节点的程度，而层的简并性衡量通过检查层输出可以重建输入扰动源的程度。如果扰动源不能很好地重建，则网络被称为扰动。这两个维度的因果关系共同构成了一个所有DNN层都占据的“因果平面”。随着层通过学习而不同，它们的因果结构应该在因果平面中占据独特的位置，反映出它们通过变得更敏感或更简并而对DNN功能的贡献。 − 为了确定DNN层在因果平面中的位置或轨迹，根据EI的分量明确计算敏感度和简并度。在参数之间没有相互作用的情况下，通过将每条边的总贡献单独相加来计算敏感度。因此，层L1到下一层L2的总敏感度为：+ − − <math> − \begin{equation} − \text{Sensitivity} = \sum_{\substack{i \in L_1 \\ j \in L_2}} I(t_i, t_j) \mid \operatorname{do}(i = H^{\text{max}}) − \end{equation} − </math> − − 这与计算每个（i，j）对的EI相同，但独立于网络的其他部分。请注意，在每个节点只接收一个唯一输入（即没有重叠）的层中，敏感度等于EI。 − 层的简并性衡量因果关系中有多少信息因重叠连接而丢失，并通过代数方法计算其敏感度-EI，因为敏感度衡量网络中非重叠连接的信息贡献。下图显示了具有不同连接权重的两个输入节点和一个输出节点（具有S形激活）的层的本质性和简并流形。它们之间的差异形成了EI流形。 − 一层的简并性衡量因果关系中有多少信息因重叠连接而丢失，并通过代数方法计算其增敏性-EI，增敏性衡量网络中非重叠连接的信息贡献。下图显示了具有不同连接权重的两个输入节点和一个输出节点（具有S形激活）的层的增敏性和简并流形。它们之间的差异形成了EI歧管。 − − 之前对图的EI（基于随机游走动力学）的研究已经找到了一种对不同规范网络进行分类的方法，如Erd̋os-Rényi随机图、无标度网络和轮辐模型，基于它们在随机游走的决定论和简并性方面的位置<ref name=":1" />。在DNN中，一个敏感术语取代了决定论。 − − 为了可视化敏感度和简并度之间的层偏移，我们引入了DNN的“因果平面”，其中平面的二维表示两个相应的值。因果平面利用了这样一个事实，即由于EI=敏感度−简并度，如果两者都等量增加，EI本身就不会改变。当绘制简并性与灵敏度时，y=x线上的点表示零EI，我们将这条45◦的线称为EI的“零点斜率”。更倾向于敏感性的路径会增加EI，更倾向于简并的路径会降低EI，而沿着EI零点的路径不会改变EI。 − − 在这里，我们探讨了这样一个假设，即DNN的内部因果结构会发生变化，以匹配它所训练的任务，并且这会在整个训练过程的特定阶段发生。为了研究这一点，我们在训练过程中测量了Iris和MNIST数据集上通过因果平面的三次运行的路径（如图4a-b所示）。在这两项任务中，对MNIST数字进行分类更为退化和复杂，因为网络必须将高维空间中的流形转换为仅10个不同的输出类（或者更确切地说，对于我们简化的MNIST版本，是5个）。对鸢尾花进行分类的任务既不退化也不复杂，因为网络必须将4维空间转换为3个（大多）线性可分的类。如果一个网络通过将其内部因果结构与数据集进行匹配来学习，那么在MNIST上训练的网络将比在Iris上训练的更大程度上塑造自己。这正是我们在图4中观察到的，在MNIST-训练的网络中，因果平面内的差异和运动要大得多，而Iris训练的网络的因果结构中的差异较小，因为它遵循EI零点律。在许多情况下，特别是对于隐藏层和输出层，运行首先表现出灵敏度的增加（增加EI），然后表现出简并性的增加（降低EI）。 − − 为了检验层的因果结构在训练过程中必然会发生差异的假设，对具有sigmoid激活函数的MNIST训练网络进行了两种修改：一种情况下删除了隐藏层，另一种情况是添加了许多冗余的隐藏层（下图c-d）。网络的两个修改都与之前的网络一样准确。在因果平面上，添加的冗余层几乎没有变化，表明在训练过程中对EI的净贡献为零（有关视频，请参阅GitHub）。这显示了与更动态的层相比，对网络因果结构没有贡献的冗余层如何沿着EI零点聚集并且移动很少。
→因果平面中的深度神经网络
[[文件:图 2.png|替代=|无框|500x500像素]]
[[文件:图 2.png|替代=|无框|500x500像素]]
=因果平面中的深度神经网络=
=有效信息分解与因果平面=
如上文所述，[[有效信息]]取决于网络中连接的权重以及这些权重之间的重叠程度。这两者共同构成了EI 流形。这意味着EI可以分解为两个关键属性：敏感度(Sensitivity)和简并度(Degeneracy)。敏感度衡量网络中每条边独立传输信息的能力，而简并度衡量由于边权重重叠导致的信息损失。这种分解方式类似于之前在布尔网络或马尔可夫链中将EI分解为确定性和简并度的做法<ref name=":0" /><ref name=":1" />。不过，在神经网络中，由于网络是确定性的，我们用敏感度代替了确定性。
在深度神经网络（DNN）中，敏感度衡量输入层的扰动能够多大程度地传递到输出层。如果敏感度高，说明网络对输入的变化非常敏感。而简并度衡量通过输出层的激活值能否重建输入层的扰动源。如果简并度高，说明网络中的信息重叠较多，导致扰动源难以被准确重建。这两个属性共同构成了一个称为[[因果平面]]的二维空间，所有神经网络层都可以在这个平面中找到自己的位置。随着网络的学习，不同层的因果结构会逐渐分化，反映出它们对网络功能的贡献。
为了量化这些属性，敏感度是通过计算网络中每条边的独立贡献来衡量的。具体公式为：
<math>
<math>
\text{Sensitivity} = \sum_{\substack{i \in L_1 \\ j \in L_2}} I(t_i, t_j) \mid \operatorname{do}(i = H^{\text{max}})
\text{Sensitivity} = \sum_{\substack{i \in L_1 \\ j \in L_2}} I(t_i, t_j) \mid \operatorname{do}(i = H^{\text{max}})
</math>
</math>
其中，<math>L_1</math> 和 <math>L_2</math> 分别是输入层和输出层，<math>I(t_i, t_j)</math> 是输入节点 <math>i</math> 和输出节点 <math>j</math> 之间的互信息，<math>\operatorname{do}(i = H^{\text{max}})</math> 表示对输入节点 <math>i</math> 进行最大熵扰动。如果网络中的每个节点只接收一个唯一的输入（即没有重叠），那么敏感度就等于 **EI**。
其中，<math>L_1</math> 和 <math>L_2</math> 分别是输入层和输出层，<math>I(t_i, t_j)</math> 是输入节点 <math>i</math> 和输出节点 <math>j</math> 之间的互信息，<math>\operatorname{do}(i = H^{\text{max}})</math> 表示对输入节点 <math>i</math> 进行最大熵扰动。如果网络中的每个节点只接收一个唯一的输入（即没有重叠），那么敏感度就等于EI。
简并度衡量的是由于边权重重叠导致的信息损失，计算公式为：
<math>
<math>
\text{Degeneracy} = \text{Sensitivity} - EI
\text{Degeneracy} = \text{Sensitivity} - EI
简并度越高，说明网络中的信息重叠越多，导致信息传递的效率降低。
简并度越高，说明网络中的信息重叠越多，导致信息传递的效率降低。
为了可视化网络层在训练过程中的变化，我们引入了**因果平面**。因果平面的两个维度分别是**敏感度**和**简并度**。由于 <math>EI = \text{Sensitivity} - \text{Degeneracy}</math>，如果敏感度和简并度同时增加，**EI** 将保持不变。在因果平面中，<math>y = x</math> 的直线称为 **EI 的零线**，表示 <math>EI = 0</math>。向敏感度方向移动表示网络对扰动的敏感性增加，**EI** 增加；向简并度方向移动表示网络的简并度增加，**EI** 减少；沿零线移动表示 **EI** 保持不变，网络层的因果结构没有显著变化。
为了可视化网络层在训练过程中的变化，我们引入了[[因果平面]]。因果平面的两个维度分别是**敏感度**和**简并度**。由于 <math>EI = \text{Sensitivity} - \text{Degeneracy}</math>，如果敏感度和简并度同时增加，EI将保持不变。在因果平面中，<math>y = x</math> 的直线称为EI的零线，表示 <math>EI = 0</math>。向敏感度方向移动表示网络对扰动的敏感性增加，EI增加；向简并度方向移动表示网络的简并度增加，EI减少；沿零线移动表示EI保持不变，网络层的因果结构没有显著变化。
在实验中，我们观察到，MNIST由于任务更复杂，网络层的因果结构在因果平面中表现出更大的分化，而Iris由于任务较简单，网络层的因果结构分化较少，且更倾向于沿EI零线移动。此外，我们还发现，冗余层在因果平面中移动较少，表明它们对网络因果结构的贡献有限，而动态层在因果平面中表现出更大的移动，反映出它们对网络功能的重要贡献。
[[文件:截屏2024-12-14 21.48.56.png |替代=|无框|700x700像素]]
[[文件:截屏2024-12-14 21.48.56.png |替代=|无框|700x700像素]]
[[文件:截屏2024-12-14 21.49.16.png|替代=|无框|500x500像素]]
[[文件:截屏2024-12-14 21.49.16.png|替代=|无框|500x500像素]]