讨论:NIS
跳到导航
跳到搜索
- NIS(神经信息压缩器)是一个以最大化粗粒化过程中有效信息的神经网络框架。
NIS的提出实际上是为了解决因果涌现辨识问题的。而且,NIS虽然力图最大化EI,但第一个版本并没有真正实现这个目标。
- 它由可逆神经网络组成,分为编码器、解码器、动力学学习器三部分
NIS的这三部分并不都是可逆的,只有编码解码器可逆,而且这两个共享同一个神经网络。
- 琐碎的策略
建议用 平凡解 来作对应的中文名词
- 数学框架:最大化EI
这里感觉因果容量没说清楚。改变输入概率分布和改变干预分布的区别是什么?(所以因果容量和信道容量有区别吗?)另外,后面又提到宏观态和最大熵分布,这和因果容量是什么关系?
- 在这种粗粒化之后,二者都试图最大化由此产生的有效信息量
这里的有效信息量不是很明白,它应该不是 effective information, 最好可以在行文中区分开这两个概念。
- 神经网络框架
图中粗粒化策略的符号有问题。
- NIS并未真正地最小化有效信息
最大化