2,435
个编辑
更改
无编辑摘要
=== 简介 ===
=== 简介 ===
基于信息分解的因果涌现理论（框架）
''<s>基于信息分解的因果涌现理论（框架）</s>''
=== 相关概念 ===
=== 相关概念 ===
在概率论和信息论中，两个随机变量的'''互信息'''（mutual Information，MI）度量了两个变量之间相互依赖的程度。具体来说，对于两个随机变量，MI是一个随机变量由于已知另一个随机变量而减少的“信息量”（单位通常为比特）。互信息的概念与随机变量的熵紧密相关，熵是信息论中的基本概念，它量化的是随机变量中所包含的“信息量”。
在概率论和信息论中，两个随机变量的'''互信息'''（mutual Information，MI）度量了两个变量之间相互依赖的程度。具体来说，对于两个随机变量，MI是一个随机变量由于已知另一个随机变量而减少的“信息量”（单位通常为比特）。互信息的概念与随机变量的熵紧密相关，熵是信息论中的基本概念，它量化的是随机变量中所包含的“信息量”。
离散随机变量 X 和 Y 的互信息可以计算为：
{{NumBlk|2=<math>
{{NumBlk||<math>
\operatorname{I}(X; Y) = \sum_{y \in \mathcal Y} \sum_{x \in \mathcal X}
\operatorname{I}(X; Y) = \sum_{y \in \mathcal Y} \sum_{x \in \mathcal X}
{ P_{(X,Y)}(x, y) \log\left(\frac{P_{(X,Y)}(x, y)}{P_X(x)\,P_Y(y)}\right) },
{ P_{(X,Y)}(x, y) \log\left(\frac{P_{(X,Y)}(x, y)}{P_X(x)\,P_Y(y)}\right) },
</math>
</math>}}
}}{{Equation box 1
其中 <math>P_{(X,Y)></math> 是 <math>X</math> 和 <math>Y</math> 的 [[联合分布|联合概率 ''mass'' 函数]]，并且<math>P_X</math> 和 <math>P_Y</math> 分别是 <math>X</math> 和 <math>Y</math> 的 [[边际概率]] 质量函数。
==== 部分信息分解 ====
==== 部分信息分解 ====
*<math>\text{Red}(X_1,X_2;Y)</math> 是 <math>X_1</math> 或 <math>X_2</math> 中关于 <math>Y</math> 的“冗余”信息
*<math>\text{Red}(X_1,X_2;Y)</math> 是 <math>X_1</math> 或 <math>X_2</math> 中关于 <math>Y</math> 的“冗余”信息
==== 整合信息分解 ====
==== 整合信息分解 ====
对部分信息分解框架在在方向上的推广。
<s>对部分信息分解框架在在方向上的推广。</s>
=== 基本概念 ===
=== 基本概念 ===
==== 因果涌现框架 ====
==== 因果涌现框架 ====
马尔科夫系统，信息原子，因果涌现（向下因果，因果解耦）
<s>马尔科夫系统，信息原子，因果涌现（向下因果，因果解耦）</s>
====Rosas的因果涌现理论====
====Rosas的因果涌现理论====
=== 应用案例 ===
=== 应用案例 ===
文中的三个案例（生命游戏，鸟群，猴脑）
<s>文中的三个案例（生命游戏，鸟群，猴脑）</s>
=== 与同类框架的比较 ===
=== 与同类框架的比较 ===
与EI，可逆性因果涌现原理，矩阵论因果涌现等框架的比较。
<s>与EI，可逆性因果涌现原理，矩阵论因果涌现等框架的比较。</s>
=== 附录 ===
=== 附录 ===