| − | [[深度神经网络]](DNN)主要通过分析节点与数据集间的[[互信息]](Mutual Information,MI),来研究其对输入的响应。然而,DNN还可以在因果关系层面进行探讨,揭示网络内部各层间“谁影响谁”及其作用机制。[[有效信息]](Effective Information, EI)作为一种基于信息论的工具,可以通过最大熵扰动下的输入与输出之间的互信息,量化网络层间的因果作用。通过引入EI方法,我们能够在[[因果平面]](Causal Plane)中观察网络训练过程中各层因果结构的演化,从而揭示不同任务对网络结构的需求,提供提升DNN泛化能力和可解释性的新思路。 | + | [[深度神经网络]](DNN)主要通过分析节点与数据集间的[[互信息]](Mutual Information,MI),来研究其对输入的响应。然而,DNN还可以在因果关系层面进行探讨,揭示网络内部各层间“谁影响谁”及其作用机制。[[有效信息]](Effective Information, EI)作为一种基于信息论的工具,可以通过最大熵扰动下的输入与输出之间的互信息,量化网络层间的因果作用。通过引入EI方法,我们能够在[[因果平面]](Causal Plane)中观察网络训练过程中各层因果结构的演化,从而揭示不同任务对网络结构的需求,提供提升DNN泛化能力和可解释性的新思路。 |