5,443
个编辑
更改
跳到导航
跳到搜索
第97行：
第97行： − − ===有效信息在节点之间的表现=== − − ==== 在不同激活函数中的表现 ==== − EI在不同的常用激活函数中具有一致的特性。下图a-c展示了两个节点A和B之间单个连接的EI，其中A→B的权重逐渐增加，每个面板展示了不同的激活函数（sigmoid、tanh、ReLU）。我们可以看到，对于每个具有特定激活函数的孤立连接，存在一个依赖于A到B连接权重的特征EI曲线，并且该曲线的形状与选择的bins数量（8、16、32和64）无关。 − − 在低权重时，EI表明B对A的扰动不敏感，尽管这种敏感性在所有三个激活函数中都会上升到一个峰值。随着权重的增加，激活函数趋于饱和，B对A的扰动变得不敏感，EI曲线随之下降。 − − 值得注意的是，这些特征峰值揭示了哪些权重代表了强因果关系（在孤立连接的情况下）。例如，sigmoid激活函数在权重等于欧拉数e时具有最具信息量的因果关系，tanh激活函数在权重为coth(1)时达到峰值，而ReLU激活函数在权重为1时达到峰值。这表明，DNN中最重要的权重可能是最具因果效力的，而不是绝对值最高的权重。例如，在使用sigmoid激活函数时，如果A→B的连接权重非常高，A的激活对扰动的信息量会变得很小，因为大多数扰动都会导致B的输出饱和到1。 − − ==== 多节点连接情况下的表现 ==== − 在存在多个连接的情况下，EI曲线会变成一个更高维的EI流形。下图d-f展示了由两个节点A和B组成的层，每个节点都有一个连接到C的单个连接的EI (A, B→C)。由于扰动之间可能相互干扰，EI不仅取决于节点之间关系的敏感性，还取决于网络连接的重叠或退化性，从而形成一个流形。例如，在sigmoid激活函数中，EI流形大致是2倍对称的，这是由于sigmoid函数在正负权重周围的对称性，以及网络本身的对称性（因为神经元A和B都只连接到C）。 − − [[文件:图 1.png|替代=|无框|500x500像素]] 第223行：
第209行： + − + − 第233行：
第219行： − + 第241行：
第227行： − + 第253行：
第239行： − + 第265行：
第251行： − +
无编辑摘要
通过以上这些步骤，EI 能够量化神经网络中层与层之间的因果关系，并揭示网络在训练过程中因果结构的变化。
通过以上这些步骤，EI 能够量化神经网络中层与层之间的因果关系，并揭示网络在训练过程中因果结构的变化。
=基于NIS的有效信息计算=
=基于NIS的有效信息计算=
该指标通过归一化，使得有效信息的比较不受输入维度大小的影响，更适合不同规模系统的对比分析。
该指标通过归一化，使得有效信息的比较不受输入维度大小的影响，更适合不同规模系统的对比分析。
=基于互信息方法的实验=
==有效信息揭示神经网络中因果结构的变化==
=有效信息揭示神经网络中因果结构的变化=
为了了解DNN的因果结构在学习过程中是如何变化的，我们跟踪了用两个基准分类任务训练的EIin网络：Iris<ref>R. A. Fisher. The Design of Experiments. The American Mathematical Monthly, 43(3):180, 1936. ISSN 00029890. doi: 10.2307/2300364.</ref>和MNIST<ref>Yann LeCun, Corinna Cortes, and CJ Burges. Mnist handwritten digit database. ATT Labs [Online]. Available: <nowiki>http://yann.lecun.com/exdb/mnist</nowiki>, 2, 2010.</ref>。对于Iris，我们训练了具有三个密集连接层4→5→5→3的网络，对于MNIST，我们使用了具有四个紧密连接层25→6→6→5的网络，使用sigmoid激活函数，并且两个任务都没有偏差。对于MNIST，我们将输入从28x28整形为5x5，并从数据集中删除了数字5-9的示例，这样最后一层只有5个节点——这是为了降低准确计算EI的计算成本。这两个任务的网络都用MSE损失和香草梯度下降训练，学习率为0.01。我们训练了批量大小为10的Irisnetworks 4000个epoch和批量大小为50的MNIST网络500个epoch。我们通过从均匀分布<math>W_{ij} = \mathscr{U}\left([ -\frac{1}{\sqrt{\mathrm{fan}_{\mathrm{in}}}}, \frac{1}{\sqrt{\mathrm{fan}_{\mathrm{in}}}} ]\right)</math>中采样来初始化权重。对于每个任务和体系结构，我们执行三次具有不同初始化的运行。使用相同的网络架构，我们还训练了具有tanh和ReLU激活函数的网络——结果可以在SI第7.2节中找到。为了计算EI，我们使用107个样本的固定噪声注入长度。我们发现，在我们的网络中，注入这个长度就足以确保收敛（见SI第7.1节）。然而，请注意，更宽的网络层可能需要更多的样本。
为了了解DNN的因果结构在学习过程中是如何变化的，我们跟踪了用两个基准分类任务训练的EIin网络：Iris<ref>R. A. Fisher. The Design of Experiments. The American Mathematical Monthly, 43(3):180, 1936. ISSN 00029890. doi: 10.2307/2300364.</ref>和MNIST<ref>Yann LeCun, Corinna Cortes, and CJ Burges. Mnist handwritten digit database. ATT Labs [Online]. Available: <nowiki>http://yann.lecun.com/exdb/mnist</nowiki>, 2, 2010.</ref>。对于Iris，我们训练了具有三个密集连接层4→5→5→3的网络，对于MNIST，我们使用了具有四个紧密连接层25→6→6→5的网络，使用sigmoid激活函数，并且两个任务都没有偏差。对于MNIST，我们将输入从28x28整形为5x5，并从数据集中删除了数字5-9的示例，这样最后一层只有5个节点——这是为了降低准确计算EI的计算成本。这两个任务的网络都用MSE损失和香草梯度下降训练，学习率为0.01。我们训练了批量大小为10的Irisnetworks 4000个epoch和批量大小为50的MNIST网络500个epoch。我们通过从均匀分布<math>W_{ij} = \mathscr{U}\left([ -\frac{1}{\sqrt{\mathrm{fan}_{\mathrm{in}}}}, \frac{1}{\sqrt{\mathrm{fan}_{\mathrm{in}}}} ]\right)</math>中采样来初始化权重。对于每个任务和体系结构，我们执行三次具有不同初始化的运行。使用相同的网络架构，我们还训练了具有tanh和ReLU激活函数的网络——结果可以在SI第7.2节中找到。为了计算EI，我们使用107个样本的固定噪声注入长度。我们发现，在我们的网络中，注入这个长度就足以确保收敛（见SI第7.1节）。然而，请注意，更宽的网络层可能需要更多的样本。
[[文件:图 2.png|替代=|无框|500x500像素]]
[[文件:图 2.png|替代=|无框|500x500像素]]
=有效信息量化联合效应与独立效应=
==有效信息量化联合效应与独立效应==
[[综合信息理论]]（Integrated Information Theory, IIT） 是一种用来评估系统中联合效应和独立效应的工具<ref>Giulio Tononi. Consciousness as integrated information: a provisional manifesto. The Biological Bulletin, 215(3): 216–242, 2008.</ref>。简单来说，联合效应指的是多个节点（或变量）共同作用产生的效果，而独立效应则是单个节点单独作用的效果。IIT帮助我们分析网络中这些效应是如何整合在一起的<ref>William Marshall, Hyunju Kim, Sara I Walker, Giulio Tononi, and Larissa Albantakis. How causal analysis can reveal autonomy in models of biological systems. Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 375(2109):20160358, 2017.</ref><ref name=":4">Larissa Albantakis, William Marshall, Erik Hoel, and Giulio Tononi. What caused what? a quantitative account of actual causation using dynamical causal networks. Entropy, , 21(5):459, 2019.</ref>。
[[综合信息理论]]（Integrated Information Theory, IIT） 是一种用来评估系统中联合效应和独立效应的工具<ref>Giulio Tononi. Consciousness as integrated information: a provisional manifesto. The Biological Bulletin, 215(3): 216–242, 2008.</ref>。简单来说，联合效应指的是多个节点（或变量）共同作用产生的效果，而独立效应则是单个节点单独作用的效果。IIT帮助我们分析网络中这些效应是如何整合在一起的<ref>William Marshall, Hyunju Kim, Sara I Walker, Giulio Tononi, and Larissa Albantakis. How causal analysis can reveal autonomy in models of biological systems. Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 375(2109):20160358, 2017.</ref><ref name=":4">Larissa Albantakis, William Marshall, Erik Hoel, and Giulio Tononi. What caused what? a quantitative account of actual causation using dynamical causal networks. Entropy, , 21(5):459, 2019.</ref>。
在传统的[[前馈神经网络]]中，综合信息通常被认为是零，因为[[前馈神经网络]]没有反馈连接（即信息只能从输入层流向输出层）。然而，即使在前馈网络中，一层的节点仍然可能对另一层产生联合效应，即多个节点共同作用的效果。为了衡量这种联合效应，我们引入了一种新的度量方法，称为前馈集成信息（Feedforward Integrated Information, <math>\Phi_{feedforward}</math>）。
在传统的[[前馈神经网络]]中，综合信息通常被认为是零，因为[[前馈神经网络]]没有反馈连接（即信息只能从输入层流向输出层）。然而，即使在前馈网络中，一层的节点仍然可能对另一层产生联合效应，即多个节点共同作用的效果。为了衡量这种联合效应，我们引入了一种新的度量方法，称为前馈集成信息（Feedforward Integrated Information, <math>\Phi_{feedforward}</math>）。
==量化联合效应==
===量化联合效应===
为了量化联合效应，我们首先需要计算每条边的独立贡献。我们引入了一个叫做<math>EI_{parts}</math>的度量方法。具体来说，对于每一层的每个节点，我们记录它在随机扰动下的激活值，然后计算这些激活值与下一层节点之间的互信息。最后，我们将所有这些互信息值相加，得到<math>EI_{parts}</math>：
为了量化联合效应，我们首先需要计算每条边的独立贡献。我们引入了一个叫做<math>EI_{parts}</math>的度量方法。具体来说，对于每一层的每个节点，我们记录它在随机扰动下的激活值，然后计算这些激活值与下一层节点之间的互信息。最后，我们将所有这些互信息值相加，得到<math>EI_{parts}</math>：
这里的<math>I(t_i, t_j)</math>表示节点<math>i</math>和节点<math>j</math>之间的互信息，<math>\text{do}(L_1 = H^{\max})</math>表示对输入层<math>L_1</math>进行最大熵扰动。
这里的<math>I(t_i, t_j)</math>表示节点<math>i</math>和节点<math>j</math>之间的互信息，<math>\text{do}(L_1 = H^{\max})</math>表示对输入层<math>L_1</math>进行最大熵扰动。
==联合效应与独立效应的差异==
===联合效应与独立效应的差异===
<math>EI_{parts}</math>衡量的是网络中每条边的独立贡献，但它可能会忽略一些联合效应。为了捕捉这些联合效应，我们计算<math>EI</math>和<math>EI_{parts}</math>之间的差异，即：
<math>EI_{parts}</math>衡量的是网络中每条边的独立贡献，但它可能会忽略一些联合效应。为了捕捉这些联合效应，我们计算<math>EI</math>和<math>EI_{parts}</math>之间的差异，即：
这个差值<math>\Phi_{feedforward}</math>表示网络中联合效应的总量。如果<math>\Phi_{feedforward}</math>是正的，说明网络中的联合效应是有益的；如果是负的，说明这些联合效应可能是噪声。
这个差值<math>\Phi_{feedforward}</math>表示网络中联合效应的总量。如果<math>\Phi_{feedforward}</math>是正的，说明网络中的联合效应是有益的；如果是负的，说明这些联合效应可能是噪声。
==训练过程中联合效应的变化==
===训练过程中联合效应的变化===
为了了解联合效应在训练过程中的变化，我们分析了两个经典的数据集：Iris和MNIST。我们发现，MNIST数据集上的网络比Iris数据集上的网络具有更高的<math>\Phi_{feedforward}</math>。这表明，MNIST任务更复杂，网络需要更多的联合效应来学习（见下图）。
为了了解联合效应在训练过程中的变化，我们分析了两个经典的数据集：Iris和MNIST。我们发现，MNIST数据集上的网络比Iris数据集上的网络具有更高的<math>\Phi_{feedforward}</math>。这表明，MNIST任务更复杂，网络需要更多的联合效应来学习（见下图）。