深度神经网络 （DNN） 通常在其对输入的响应级别进行检查，例如分析节点和数据集之间的互信息。然而，DNN 也可以在因果关系层面上进行检查，探索网络本身层内的“什么做什么”。从历史上看，分析 DNN 的因果结构比了解它们对输入的反应受到的关注要少。然而，从定义上讲，泛化性必须是 DNN 因果结构的一个函数，因为它反映了 DNN 如何响应看不见甚至尚未定义的未来输入。