259
个编辑
更改
跳到导航
跳到搜索
第1行：
第1行： − + 第17行：
第17行： + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + +
无编辑摘要
NIS+（Neural Information Squeezer Plus）是一个机器学习框架，可学习宏观动力学，并量化因果涌现的程度。该框架通过最大化有效信息，得到一个宏观动态模型。通过在模拟数据和实际数据上的实验，证明了该框架的有效性。且该框架在不同测试环境里都表现出泛化的效果。
'''NIS+（Neural Information Squeezer Plus）'''是一个机器学习框架，可学习宏观动力学，并量化因果涌现的程度。该框架通过最大化有效信息，得到一个宏观动态模型。通过在模拟数据和实际数据上的实验，证明了该框架的有效性。且该框架在不同测试环境里都表现出泛化的效果。
= 问题背景 =
= 问题背景 =
=== 基于信息分解的因果涌现识别 ===
=== 基于信息分解的因果涌现识别 ===
Rosas等学者通过将过量熵（即系统现在与未来状态的互信息）分解成不重叠的部分来识别量化因果涌现，且提出了判定因果涌现发生的充分条件，当<math>\mathrm{\Psi}>0 </math>时，宏观状态<math>V </math>会发生涌现。
为了简化问题且不失通用性，以有两个输入变量（X<sub>1</sub>、X<sub>2</sub>）和一个输出变量（Y）的系统为例，目标变量和联合源变量的互信息<math>I(X_1,X_2; Y) </math>可以通过部分信息分解（Partial Information Decomposition，简称PID）分解成三种信息，分别是冗余信息（Redundant information，简称Red）、独特信息（Unique information，简称Un）、协同信息（Synergistic information，简称Syn），具体公式如下：
<math>)I(X_1,X_2; Y) = Red(X_1,X_2; Y) + Un(X_1; Y |X_2) + Un(X_2; Y |X_1) + Syn(X_1,X_2; Y) </math>
不过，PID只适用于单个目标变量的情景，无法有效的应用于跨时间步长的系统。故，Rosas等学者提出了集成信息分解（Integrated Information Decomposition，简称ΦID）。只有当前后时刻变量（X<sub>t</sub>，X<sub>t+1</sub>）之间的协同效应大于0的时候，才会出现因果涌现。
<math>Syn(X_t;X_t+1) > 0 </math>
此外，Rosas等学者还提供了量化特定宏观变量（V<sub>t</sub>）因果涌现的方法。如果宏观变量（V<sub>t</sub>）所持有的关于微观变量独特信息大于0，那么则出现因果涌现。
<math>Syn(X_{t};X_{t+1}) >= Un(V_t;X_{t+1}|X_t) > 0 </math>
通过互信息的相关计算公式，可以得知：
<math>\Un(V_t;X_{t+1}|X_t) >= I\left(V_t ; V_{t+1}\right)-\sum_j I\left(X_t^j ; V_{t+1}\right) + Red(V_t, V_{t+1};X_t) </math>
由于<math>Red(V_t, V_{t+1};X_t) </math>为非负数，所以可以提出一个充分非必要条件<math>\Psi_{t, t+1}(V) </math>，当<math>\Psi_{t, t+1}(V) </math>大于0的时候，发生因果涌现。
<math>\Psi_{t, t+1}(V):=I\left(V_t ; V_{t+1}\right)-\sum_j I\left(X_t^j ; V_{t+1}\right) </math>
<math>Syn(X_{t};X_{t+1}) >= Un(V_t;X_{t+1}|X_t) > 0 </math>
<math>Un(V_t; X_{t+1}|X_t) </math>大于
Rosas等提出了判定因果涌现发生的充分条件，且基于信息分解提出<math>\mathrm{\Psi} </math> ，用于识别系统中的因果涌现，具体计算公式如下：
Rosas等提出了判定因果涌现发生的充分条件，且基于信息分解提出<math>\mathrm{\Psi} </math> ，用于识别系统中的因果涌现，具体计算公式如下：