更改

第57行: 第57行:       −
信息分解除了能够被韦恩图所直观的呈现以外,更常被表示为晶格图的形式以在更多变量的情况下维持其简洁的结构。晶格图(lattice)是抽象代数中研究的一种抽象结构,它由一个偏序集组成。信息分解所得到的信息原子也可以被描述为一种晶格结构,这一晶格结构被称为[[冗余晶格]]。该晶格图包含了所有[[反链]](anti-chain),即由源变量集合的所有非空子集所组合构成的所有集合(其中元素无相互包含关系),每一个这种集合对应了一个节点。
+
信息分解除了能够被韦恩图所直观的呈现以外,更常被表示为晶格图的形式以在更多变量的情况下维持其简洁的结构。晶格图(lattice)是抽象代数中研究的一种抽象结构,它由一个偏序集组成。信息分解所得到的信息原子也可以被描述为一种晶格结构,这一晶格结构被称为[[冗余晶格]]。该晶格图包含了所有反链(anti-chain),即由源变量集合的所有非空子集所组合构成的所有(无相互包含集合的)集合,每一个这种集合对应了一个节点。
   −
以两变量 <math>\{X_1,X_2\}</math> 为例,集合 <math> \{1,2\} </math>的所有非空子集包含 <math> \{1,2\} \quad \{2\} </math>和 <math> \{1\} </math>,因此所能构成的无重复变量的集合包括 <math>\{\{1,2\}\}</math> <math>\{\{2\}\}</math> <math>\{\{1\}\}</math> 和 <math>\{\{1\}\{2\}\}</math>。如下图所示,这些反链(anti-chain)与上图的信息原子一一对应,既<math>\{\{1,2\}\}</math> 对应协同信息,<math>\{\{2\}\}</math> 和 <math>\{\{1\}\}</math> 对应特有信息,<math>\{\{1\}\{2\}\}</math>对应冗余信息。
+
以两变量 <math>\{X_1,X_2\}</math> 为例,集合 <math> \{1,2\} </math>的所有非空子集包含 <math> \{1,2\} \quad \{2\} </math>和 <math> \{1\} </math>,因此所能构成的无重复变量的集合包括 <math>\{\{1,2\}\}</math> <math>\{\{2\}\}</math> <math>\{\{1\}\}</math> 和 <math>\{\{1\}\{2\}\}</math>。如下图所示,这些[[反链]](anti-chain)与上图的信息原子一一对应,既<math>\{\{1,2\}\}</math> 对应协同信息,<math>\{\{2\}\}</math> 和 <math>\{\{1\}\}</math> 对应特有信息,<math>\{\{1\}\{2\}\}</math>对应冗余信息。
    
[[文件:Lattice_of_2.png|替代=|无框]]
 
[[文件:Lattice_of_2.png|替代=|无框]]
第191行: 第191行:  
     V_t = f(X_t)
 
     V_t = f(X_t)
 
</math>   
 
</math>   
−
,其中,函数 <math>f(\cdot)</math> 代表某种确定性的映射,将高维的微观状态映射到较低维的宏观表征。因此,宏观状态 <math>V_t</math> 是 <math>X_t</math> 的随附特征(supervenience),意味着 <math>V_t</math> 的值完全依赖于 <math>X_t</math>,但不同的粗粒化方法可能导致不同的宏观表征。
+
其中,函数 <math>f(\cdot)</math> 代表某种确定性的映射,将高维的微观状态映射到较低维的宏观表征。因此,宏观状态 <math>V_t</math> 是 <math>X_t</math> 的随附特征(supervenience),意味着 <math>V_t</math> 的值完全依赖于 <math>X_t</math>,但不同的粗粒化方法可能导致不同的宏观表征。
    
'''基于特有信息的因果涌现量化''':在指定系统的宏观随附特征(即宏观态变量) <math>V_t</math> 后,系统的因果涌现可以被特有信息  
 
'''基于特有信息的因果涌现量化''':在指定系统的宏观随附特征(即宏观态变量) <math>V_t</math> 后,系统的因果涌现可以被特有信息  
第293行: 第293行:  
\begin{cases}
 
\begin{cases}
 
     0, & \text{if } x_{t+1}^1 \neq \bigoplus_{j=1}^{n} x_t^j, \\[10pt]
 
     0, & \text{if } x_{t+1}^1 \neq \bigoplus_{j=1}^{n} x_t^j, \\[10pt]
−
     \frac{1}{2}, & \text{if } x_{t+1}^1 = \bigoplus_{j=1}^{n} x_t^j \text{ and } \bigoplus_{j=1}^{n} x_{t+1}^j = \bigoplus_{j=1}^{n} x_t^j, \\[10pt]
+
     \frac{\gamma}{2}, & \text{if } x_{t+1}^1 = \bigoplus_{j=1}^{n} x_t^j \text{ and } \bigoplus_{j=1}^{n} x_{t+1}^j = \bigoplus_{j=1}^{n} x_t^j, \\[10pt]
−
     \frac{1}{2}, & \text{otherwise}.
+
     \frac{1 - \gamma}{2}, & \text{otherwise}.
 
\end{cases}
 
\end{cases}
 
</math>  
 
</math>  
第310行: 第310行:  
==== 系统因果涌现能力的分类定义 ====
 
==== 系统因果涌现能力的分类定义 ====
   −
如果因果涌现采用协同信息的方式定义,即未指定系统的宏观随附特征时,测量系统是否存在因果涌现的指标 <math>Syn(X_t^1,...,X_t^n;X_{t+1})</math>可基于<math> \Phi ID </math>框架进一步分为如下两部分,如下图所示:
+
如果因果涌现采用协同信息的方式定义,即未指定系统的宏观随附特征时,测量系统是否存在因果涌现的指标 <math>Syn(X_t^1,...,X_t^n;X_{t+1})</math>可基于PhiID框架进一步分为如下两部分:
      第317行: 第317行:  
</math>
 
</math>
   −
[[文件:PhiID gd.png|替代=|无框|500x500像素]]
+
[[文件:PhiID gd.png|替代=|无框|300x300像素]]
      第332行: 第332行:     
通过这种方式,PhiID 允许我们将系统的因果涌现分解为不同的成分,并在数学上严格刻画因果信息流的方向性。这一框架不仅适用于理论分析,还可以用于实际数据集的计算分析,帮助识别复杂系统中的因果结构。
 
通过这种方式,PhiID 允许我们将系统的因果涌现分解为不同的成分,并在数学上严格刻画因果信息流的方向性。这一框架不仅适用于理论分析,还可以用于实际数据集的计算分析,帮助识别复杂系统中的因果结构。
 +
    
==== 特定宏观特征因果涌现的分类定义 ====
 
==== 特定宏观特征因果涌现的分类定义 ====
第396行: 第397行:     
===基于机器学习的方法===
 
===基于机器学习的方法===
−
Kaplanis 等人<ref name=":2" />基于[[表示机器学习]](Representation learning)的理论方法,用算法通过最大化 <math>\mathrm{\Psi} </math>(即公式{{EquationNote|1}})而自发学习到宏观态变量 <math>V</math> 变量。具体的,作者们使用神经网络 <math>f_{\theta}</math> 来学习将微观输入 <math>X_t</math> 粗粒化成宏观输出 <math>V_t</math> 的表示函数,同时使用神经网络 <math>g_{\phi}</math> 和 <math>h_{\xi}</math> 来分别学习 <math>I(V_t;V_{t+1})</math> 和 <math>\sum_i(I(V_{t+1};X_{t}^i))</math> 等互信息的计算,最后该方法通过最大化两者之间的差(即 <math>\mathrm{\Psi} </math>)来优化神经网络。该神经网络系统的架构图如下图a所示。
+
Kaplanis 等人<ref>Kaplanis C, Mediano P, Rosas F. Learning causally emergent representations[C]//NeurIPS 2023 workshop: Information-Theoretic Principles in Cognitive Systems. 2023.</ref>基于[[表示机器学习]](Representation learning)的理论方法,用算法通过最大化 <math>\mathrm{\Psi} </math>(即公式{{EquationNote|1}})而自发学习到宏观态变量 <math>V</math> 变量。具体的,作者们使用神经网络 <math>f_{\theta}</math> 来学习将微观输入 <math>X_t</math> 粗粒化成宏观输出 <math>V_t</math> 的表示函数,同时使用神经网络 <math>g_{\phi}</math> 和 <math>h_{\xi}</math> 来分别学习 <math>I(V_t;V_{t+1})</math> 和 <math>\sum_i(I(V_{t+1};X_{t}^i))</math> 等互信息的计算,最后该方法通过最大化两者之间的差(即 <math>\mathrm{\Psi} </math>)来优化神经网络。该神经网络系统的架构图如下图a所示。
     
5,443

个编辑