更改

神经网络的有效信息计算 (查看源代码)

2025年3月1日 (六) 22:14的版本

删除1,149字节、 2025年3月1日 (六) 22:14

无编辑摘要

第1行：第1行： −

[[人工神经网络]](artificial neural networks)主要通过分析节点与数据集间的[[互信息]](Mutual Information,MI)，来研究其对输入的响应。然而，神经网络还可以在因果关系层面进行探讨，揭示网络内部各层间“谁影响谁”及其作用机制。[[有效信息]](Effective Information, EI)作为一种基于信息论的工具，可以通过最大熵扰动下的输入与输出之间的[[互信息]]，量化网络层间的因果作用。此外，基于[[神经信息压缩机]]（Neural Information Squeezer,NIS）框架的有效信息计算方法可以识别系统从微观状态到宏观状态的[[因果涌现]]。

+

[[人工神经网络]](artificial neural networks)主要通过分析节点与数据集间的[[互信息]](Mutual Information,MI)，来研究其对输入的响应。然而，神经网络还可以在因果关系层面进行探讨，揭示网络内部各层间“谁影响谁”及其作用机制。[[有效信息]](Effective Information, EI)作为一种基于信息论的工具，可以通过最大熵扰动下的输入与输出之间的[[互信息]]，量化网络层间的因果作用。

=简介=

第11行：第11行：

更重要的是，EI可以帮助我们追踪网络训练过程中各层因果结构的变化路径。通过观察网络连接的“敏感度”（Sensitivity，即扰动的传递效果，类似[[Erik Hoel]]的Determinism概念<ref name=hoel_2013>{{cite journal|last1=Hoel|first1=Erik P.|last2=Albantakis|first2=L.|last3=Tononi|first3=G.|title=Quantifying causal emergence shows that macro can beat micro|journal=Proceedings of the National Academy of Sciences|volume=110|issue=49|page=19790–19795|year=2013|url=https://doi.org/10.1073/pnas.1314922110}}</ref>）和“简并度”（Degeneracy，即连接重叠导致的信息丢失），我们可以看到不同任务如何塑造神经网络的因果结构。复杂任务往往导致网络因果结构分化更明显，而简单任务中这种分化较弱。此外，冗余层通常无法在因果平面中显著变化，显示其对网络功能贡献较小。此外，我们会展示如何使用EI来计算一层中节点的总联合效应和总个体效应之间的差异，从而可以测量神经网络中的前馈集成信息<ref>Masafumi Oizumi, Larissa Albantakis, and Giulio Tononi. From the phenomenology to the mechanisms of consciousness: integrated information theory 3.0. PLoS Comput Biol, 10(5):e1003588, 2014.</ref>。

−

此外，[[神经信息压缩机]]（Neural Information Squeezer, NIS）是用于量化神经网络有效信息另一个重要方法<ref>Jianyu Zhang, Kai Liu. Neural Information Squeezer for Causal Emergence. In Entropy, volume 25, pages 1–26, 2023.</ref>。NIS旨在通过[[可逆神经网络]]（Invertible Neural Network,INN）和投影操作，自动从时间序列数据中提取有效的[[粗粒化策略]]和[[宏观动力学]]，并识别[[因果涌现]]。NIS的核心思想是将粗粒化策略分解为信息转换和信息丢弃两个过程，通过[[可逆神经网络]]实现信息无损的转换，再通过投影操作丢弃冗余信息，从而在宏观尺度上获得更强的因果连接。NIS框架通过优化有效信息来寻找最优的[[粗粒化策略]]和[[宏观动力学]]，实验表明，NIS能够在多个经典系统中自动发现有效的宏观状态和动力学，并在不同尺度下展现出显著的[[因果涌现]]效应。

量化神经网络中的有效信息为解决[[人工神经网络]]的可解释性问题提供了新的思路。由于[[人工神经网络]]拥有大量参数，常被视为“黑匣子”，其内部机制难以理解，影响了模型的透明度<ref>David Gunning. Explainable artificial intelligence (xai). Defense Advanced Research Projects Agency (DARPA), nd Web, 2, 2017.</ref>。缺乏可解释性可能会掩盖其他问题，如数据集<ref>Mohsan Alvi, Andrew Zisserman, and Christoffer Nellåker. Turning a blind eye: Explicit removal of biases and variation from deep neural network embeddings. In Proceedings of the European Conference on Computer Vision(ECCV) , pages 0–0, 2018.</ref>或模型选择<ref>Arnaud Mignan and Marco Broccardo. One neuron versus deep learning in aftershock prediction. Nature, 574(7776): E1–E3, 2019.</ref>中的偏见，对于那些想使用[[人工神经网络]]做出关于人生命的事情来说是一个重大问题，例如在自动驾驶汽车<ref>Mariusz Bojarski, Davide Del Testa, Daniel Dworakowski, Bernhard Firner, Beat Flepp, Prasoon Goyal, Lawrence D Jackel, Mathew Monfort, Urs Muller, Jiakai Zhang, et al. End to end learning for self-driving cars. arXiv preprint arXiv:1604.07316, 2016.</ref>、自动驾驶无人机<ref>Dario Floreano and Robert J Wood. Science, technology and the future of small autonomous drones. Nature, 521(7553):460–466, 2015.</ref>或医疗诊断<ref>Hoo-Chang Shin, Holger R Roth, Mingchen Gao, Le Lu, Ziyue Xu, Isabella Nogues, Jianhua Yao, Daniel Mollura, and Ronald M Summers. Deep convolutional neural networks for computer-aided detection: Cnn architectures, dataset characteristics and transfer learning. IEEE transactions on medical imaging, 35(5):1285–1298, 2016.</ref>的情况下。因此使用这套技术，研究人员将能够在训练过程中直接观察神经网络的整体因果结构发生变化的过程，这是打开“黑匣子”和了解神经网络中的作用的关键一步。

相信未来

5,443

个编辑