讨论:NIS

来自集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
Matthew讨论 | 贡献2024年7月27日 (六) 19:42的版本
跳到导航 跳到搜索
  • NIS(神经信息压缩器)是一个以最大化粗粒化过程中有效信息的神经网络框架。

NIS的提出实际上是为了解决因果涌现辨识问题的。而且,NIS虽然力图最大化EI,但第一个版本并没有真正实现这个目标。

  • 它由可逆神经网络组成,分为编码器、解码器、动力学学习器三部分

NIS的这三部分并不都是可逆的,只有编码解码器可逆,而且这两个共享同一个神经网络。

  • 琐碎的策略

建议用 平凡解 来作对应的中文名词

  • 数学框架:最大化EI

这里感觉因果容量没说清楚。改变输入概率分布和改变干预分布的区别是什么?(所以因果容量和信道容量有区别吗?)另外,后面又提到宏观态和最大熵分布,这和因果容量是什么关系?

  • 在这种粗粒化之后,二者都试图最大化由此产生的有效信息量

这里的有效信息量不是很明白,它应该不是 effective information, 最好可以在行文中区分开这两个概念。

  • 神经网络框架

图中粗粒化策略的符号有问题。

  • NIS并未真正地最小化有效信息

最大化