第22行: |
第22行: |
| === 基于信息分解的因果涌现识别 === | | === 基于信息分解的因果涌现识别 === |
| | | |
− | Rosas等学者利用机器学习框架<ref>Kaplanis Christos, Mediano Pedro, Rosas Fernando. Learning Causally Emergent Representations''. NeurIPS 2023 workshop: Information-Theoretic Principles in Cognitive Systems''</ref>,通过信息分解来识别量化[[因果涌现]],但是信息分解框架中定义的信息原子难以计算,所以作者推导出只需要计算互信息的近似公式,提出了判定[[因果涌现]]发生的充分条件,即<math>\Psi_{t, t+1}(V) </math>,具体公式如下:
| + | Rosas等学者通过信息分解来识别量化[[因果涌现]],但是信息分解框架中定义的信息原子难以计算,所以作者推导出只需要计算互信息的近似公式,提出了判定[[因果涌现]]发生的充分条件,即<math>\Psi_{t, t+1}(V) </math>,具体公式如下: |
| | | |
| <math>\Psi_{t, t+1}(V):=I\left(V_t ; V_{t+1}\right)-\sum_j I\left(X_t^j ; V_{t+1}\right) </math> | | <math>\Psi_{t, t+1}(V):=I\left(V_t ; V_{t+1}\right)-\sum_j I\left(X_t^j ; V_{t+1}\right) </math> |
第30行: |
第30行: |
| 当<math>\Psi_{t, t+1}(V) > 0 </math>,系统发生[[因果涌现]]。但当<math>\mathrm{\Psi}<0 </math>,我们不能确定系统是否发生[[因果涌现]]。 | | 当<math>\Psi_{t, t+1}(V) > 0 </math>,系统发生[[因果涌现]]。但当<math>\mathrm{\Psi}<0 </math>,我们不能确定系统是否发生[[因果涌现]]。 |
| | | |
− | 需要指出的是,Hoel的方法基于Judea Pearl因果,而此方法是基于格兰杰因果,且只是互信息的组合,没有引入do干预。 | + | 需要指出的是,Hoel的方法基于Judea Pearl因果,而此方法是基于格兰杰因果,利用机器学习框架<ref>Kaplanis Christos, Mediano Pedro, Rosas Fernando. Learning Causally Emergent Representations''. NeurIPS 2023 workshop: Information-Theoretic Principles in Cognitive Systems''</ref>,计算互信息的组合,没有引入do干预。 |
| | | |
| 该方法因为是格兰杰因果,所以计算比较方便,不需要找到底层的动力学机制。且对系统的动力学没有马尔可夫性的假设和要求。但是也存在一些缺点: | | 该方法因为是格兰杰因果,所以计算比较方便,不需要找到底层的动力学机制。且对系统的动力学没有马尔可夫性的假设和要求。但是也存在一些缺点: |
第122行: |
第122行: |
| ①双射映射,<math> ψ: R_p → R_p </math>,此步无信息丢失,由可逆神经网络实现。 | | ①双射映射,<math> ψ: R_p → R_p </math>,此步无信息丢失,由可逆神经网络实现。 |
| | | |
− | ②投影运算,<math>chi_q </math>,此步将输入的<math>p </math>维数据映射到<math>q </math>维数据上,得到宏观变量<math>Y_t </math>,此步丢失<math>p-q </math>维信息。 | + | ②投影运算,<math>\chi_q </math>,此步将输入的<math>p </math>维数据映射到<math>q </math>维数据上,得到宏观变量<math>Y_t </math>,此步丢失<math>p-q </math>维信息。 |
| | | |
| <math>psi(x) = chi_q (phi(x)) </math> | | <math>psi(x) = chi_q (phi(x)) </math> |