更改

[[深度神经网络]](DNN)主要通过分析节点与数据集间的[[互信息]](Mutual Information,MI)，来研究其对输入的响应。然而，DNN还可以在因果关系层面进行探讨，揭示网络内部各层间“谁影响谁”及其作用机制。[[有效信息]](Effective Information, EI)作为一种基于信息论的工具，可以通过最大熵扰动下的输入与输出之间的互信息，量化网络层间的因果作用。通过引入EI方法，我们能够在[[因果平面]](Causal Plane)中观察网络训练过程中各层因果结构的演化，从而揭示不同任务对网络结构的需求，提供提升DNN泛化能力和可解释性的新思路。

[[深度神经网络]](DNN)主要通过分析节点与数据集间的[[互信息]](Mutual Information,MI)，来研究其对输入的响应。然而，DNN还可以在因果关系层面进行探讨，揭示网络内部各层间“谁影响谁”及其作用机制。[[有效信息]](Effective Information, EI)作为一种基于信息论的工具，可以通过最大熵扰动下的输入与输出之间的[[互信息]]，量化网络层间的因果作用。通过引入EI方法，我们能够在[[因果平面]](Causal Plane)中观察网络训练过程中各层因果结构的演化，从而揭示不同任务对网络结构的需求，提供提升DNN泛化能力和可解释性的新思路。