842
个编辑
更改
无编辑摘要
|keywords=整合信息论,意识量化,Φ指标,因果信息,复杂系统意识
|keywords=整合信息论,意识量化,Φ指标,因果信息,复杂系统意识
|description=本文系统综述了整合信息论1.0版本的核心框架。}}
|description=本文系统综述了整合信息论1.0版本的核心框架。}}
[[整合信息论]]（[[Integrated Information Theory]], IIT）是探索[[意识]]本质的开创性理论框架，最早在2004年提出了首个版本的理论，并给出了具体的[[数学]]框架。本文旨在梳理IIT1.0的内容和发展脉络。
=历史溯源=
=历史溯源=
=整合信息的计算=
=[[整合信息]]的计算=
理解上述类比后，便可理解信息整合度 <math>\Phi</math> 的真实计算过程：首先，将复杂网络替换为大脑构成的因果网络，其中节点可视为神经元，连边代表神经元之间的突触链接；其次，将连边理解为两个节点间的因果联系，连边的强弱对应因果联系的[[有效信息]]（将系统二分后干预其中一个子系统的状态分布为均匀分布，然后考察两个子系统之间的[[互信息]]（Mutual Information）即为有效信息。有效信息刻画的是被切分的两个网络间的因果影响，具体可参见[[有效信息]]词条）；最后，一个因果网络的信息整合程度，就指的是所有子网络中因果瓶颈（即最小有效信息）处的[[有效信息]]所能达到的最大值，而具有这一最大有效信息的子网络便是意识发生的区域。
理解上述类比后，便可理解信息整合度 <math>\Phi</math> 的真实计算过程：首先，将[[复杂网络]]替换为[[大脑]]构成的[[因果]]网络，其中[[节点]]可视为[[神经元]]，[[连边]]代表[[神经元]]之间的[[突触]]链接；其次，将[[连边]]理解为两个[[节点]]间的[[因果]]联系，[[连边]]的强弱对应[[因果]]联系的[[有效信息]]（将系统二分后[[干预]]其中一个子系统的状态分布为[[均匀分布]]，然后考察两个子系统之间的[[互信息]]（[[Mutual Information]]）即为[[有效信息]]。[[有效信息]]刻画的是被切分的两个网络间的[[因果]]影响，具体可参见[[有效信息]]词条）；最后，一个[[因果]]网络的信息整合程度，就指的是所有子网络中[[因果]]瓶颈（即最小[[有效信息]]）处的[[有效信息]]所能达到的最大值，而具有这一最大[[有效信息]]的子网络便是[[意识]]发生的区域。
== 定义 ==
== 定义 ==
<math>\phi</math>指标用于量化系统的内在信息整合能力，其核心在于度量系统各部分之间因果交互的紧密程度，从而反映出系统整合信息的效能。从本质上讲，<math>\phi</math>是系统内在属性的函数，具体定义为“在最小信息二分切割下可交换的有效信息量”，适用于量化分布式网络（如大脑）中信息被统一处理的程度。表达式为：
<math>\phi</math>指标用于[[量化]]系统的内在信息整合能力，其核心在于度量系统各部分之间[[因果]]交互的紧密程度，从而反映出系统[[整合信息]]的效能。从本质上讲，<math>\phi</math>是系统内在属性的函数，具体定义为“在最小信息二分切割下[[可交换的]][[有效信息]]量”，适用于[[量化]]分布式网络（如[[大脑]]）中信息被统一处理的程度。[[表达式]]为：
<math>
<math>
</math>
</math>
其中，S表示待分析的子系统，MIB(S)代表最小信息的二分切割（即在所有对S的二划分中找到能够让两个子网络间有效信息最小的那个划分），EI即有效信息（Effective Information）。该指标通过计算系统“在最小信息二分切割下可交换的有效信息量”，来衡量系统的信息整合能力，<math>\phi</math>值越高，表示系统越能作为一个整体进行信息整合，而非仅仅是独立部分的集合<ref name="">{{cite journal|author1=Tononi G|title=An information integration theory of consciousness|journal=BMC Neuroscience|year=2004|volume=5|issue=1|page=42|url=https://doi.org/10.1186/1471-2202-5-42}}</ref>。
其中，S表示待分析的子系统，MIB(S)代表最小信息的二分切割（即在所有对S的二划分中找到能够让两个子网络间[[有效信息]]最小的那个划分），[[EI]]即[[有效信息]]（[[Effective Information]]）。该指标通过计算系统“在最小信息二分切割下[[可交换的]][[有效信息]]量”，来衡量系统的信息整合能力，<math>\phi</math>值越高，表示系统越能作为一个整体进行信息整合，而非仅仅是独立部分的[[集合]]<ref name="">{{cite journal|author1=Tononi G|title=An information integration theory of consciousness|journal=BMC Neuroscience|year=2004|volume=5|issue=1|page=42|url=https://doi.org/10.1186/1471-2202-5-42}}</ref>。
== 有效信息 ==
== [[有效信息]] ==
[[有效信息]]是一种[[因果效应的度量]]，用于衡量子系统A对子系统B的[[因果]]影响。它是一种特殊的[[互信息]]，即在最大熵[[干预]]的前提下，度量A、B两个部分的[[互信息]]。具体公式为<ref name="Measuring_information_integration">{{cite journal|author1=Tononi G|author2=Boly M|author3=Massimini M|author4=Edelman D B|title=Measuring information integration|journal=PLOS Computational Biology|year=2016|volume=12|issue=3|page=e1004819|url=https://doi.org/10.1371/journal.pcbi.1004819}}</ref>：
<math>
<math>
</math>
</math>
其中，<math>MI(A: B) = H(A)+H(B)-H(A,B)</math>表示互信息，用于衡量A与B之间的统计依赖性；<math>A^{Hmax}</math>表示在切断A的输入连接后，向其注入最大熵噪声的扰动状态（见图2.2），这种扰动确保了A的输出变化完全由独立噪声驱动，从而纯粹反映A对B的因果作用。在一个连续的马尔科夫动力学系统中，最大熵噪声通常建模为高斯分布：<math>A^{Hmax} \sim \mathcal{N}(0,c_p^2 I)</math>（ <math>c_p</math>为噪声强度，<math>I</math>为单位矩阵）；在一个离散的马尔科夫动力学系统中，向其注入最大熵噪声，则是对系统做do干预（do-operator），将A系统状态分布干预成其定义域上的均匀分布（<math>A^{Hmax}\sim U</math>）。有效信息的高低直接反映了A与B之间因果连接的强度与特异性：若因果连接紧密且分化度（即为子集的状态多样性）高，EI值较高；反之，若连接微弱或因果效应单一，EI值趋近于零。若需详细了解离散以及连续的马尔科夫动力学系统的有效信息计算可以参看[[有效信息]]词条。
其中，<math>MI(A: B) = H(A)+H(B)-H(A,B)</math>表示[[互信息]]，用于衡量A与B之间的统计依赖性；<math>A^{Hmax}</math>表示在切断A的输入连接后，向其注入最大熵[[噪声]]的扰动状态（见图2.2），这种扰动确保了A的输出变化完全由独立[[噪声]]驱动，从而纯粹反映A对B的[[因果]]作用。在一个[[连续]]的[[马尔科夫动力学]]系统中，最大熵[[噪声]]通常建模为[[高斯分布]]：<math>A^{Hmax} \sim \mathcal{N}(0,c_p^2 I)</math>（ <math>c_p</math>为[[噪声]]强度，<math>I</math>为[[单位矩阵]]）；在一个离散的[[马尔科夫动力学]]系统中，向其注入最大熵[[噪声]]，则是对系统做do[[干预]]（do-operator），将A[[系统状态]]分布[[干预]]成其定义域上的[[均匀分布]]（<math>A^{Hmax}\sim U</math>）。[[有效信息]]的高低直接反映了A与B之间[[因果]]连接的强度与特异性：若[[因果]]连接紧密且分化度（即为[[子集]]的状态多样性）高，[[EI]]值较高；反之，若连接微弱或[[因果效应]]单一，[[EI]]值趋近于零。若需详细了解离散以及[[连续]]的[[马尔科夫动力学]]系统的[[有效信息]]计算可以参看[[有效信息]]词条。
为了全面评估子系统A与B之间的[[因果]]交互，因此可以引入双向[[有效信息]]，定义为两个[[方向]][[EI]]值的总和：
<math>
<math>
</math>
</math>
这一度量捕捉了A与B之间双向的[[因果]]流动，强调了交互的非对称性——即<math>EI(A \rightarrow B)</math> 与 <math>EI(B \rightarrow A)</math> 可能显著不同。双向[[有效信息]]是识别系统内部整合能力的关键基础，因为它反映了任意两个部分之间[[可交换的]][[因果]]信息总量。
== 最小信息二分（MIB）==
== 最小信息二分（MIB）==
最小信息二分（Minimum Information Bipartition，简称MIB）旨在确定使归一化有效信息（EI）最小化的二分切割方式，其核心是定位系统中最易割裂的“信息断层线”，即识别信息连接最薄弱的分割方案。
最小信息二分（Minimum Information Bipartition，简称MIB）旨在确定使[[归一化]][[有效信息]]（[[EI]]）最小化的二分切割方式，其核心是定位系统中最易割裂的“信息断层线”，即识别信息连接最薄弱的分割方案。
它的具体计算步骤如下：
它的具体计算步骤如下：
1. 选择子系统<math> S \subseteq X </math>，其中 X包含n个元素，S包含k个元素（2≤k≤n）；
1. 选择子系统<math> S \subseteq X </math>，其中 X包含n个元素，S包含k个元素（2≤k≤n）；
2. 枚举所有二分切割 <math>[A:B]_S</math>，需满足<math>A \cup B = S</math>（覆盖子集）且 <math>A \cap B = \emptyset</math>（无交集），归一化有效信息后，有效信息最小的二分割即为所求。
2. 枚举所有二分切割 <math>[A:B]_S</math>，需满足<math>A \cup B = S</math>（覆盖[[子集]]）且 <math>A \cap B = \emptyset</math>（无交集），[[归一化]][[有效信息]]后，[[有效信息]]最小的二分割即为所求。
最小信息二分 MIB(S)公式定义为：
最小信息二分 MIB(S)公式定义为：
</math>
</math>
含义为在所有二分切割中选取[[归一化]][[有效信息]]最小的划分。
[[归一化]][[有效信息]]的计算公式为：
<math>
<math>
</math>
</math>
其中对于一个[[连续]]的[[马尔科夫动力学]]系统的最大熵<math>A^{Hmax}</math>的计算方式为：
<math>
<math>
其中 <math>m = \text{dim}(A)</math>表示 A的维度。
其中 <math>m = \text{dim}(A)</math>表示 A的维度。
而对于一个离散的[[马尔科夫动力学]]系统的最大熵<math>A^{Hmax}</math>的计算方式为：
<math>
<math>
同样的<math>m = \text{dim}(A)</math>表示A的维度。
同样的<math>m = \text{dim}(A)</math>表示A的维度。
经过了上面的一系列运算，对于[[集合]]S的[[整合信息]]量<math>\Phi(S)</math>最终根据定义：
<math>
<math>
</math>
</math>
须注意，此处使用的是<math> MIB(S)</math>对应的未归一化的有效信息值。
须注意，此处使用的是<math> MIB(S)</math>对应的未[[归一化的有效信息]]值。
== 复合体（complex） ==
== 复合体（complex） ==
前面给大家讲解了如何计算一个系统的[[整合信息]]<math>\phi</math> ，但是要确定这个系统的[[整合信息]]量的大小，还需要考虑其[[子集]]，因为有可能会出现[[子集]]的[[整合信息]]程度会大于整体的情况，这时整体的[[整合信息]]量就由[[子集]]主导。为了更好地说明这种情况，由此引入了复合体（complex）的概念，其定义为复合体是系统X的一个[[子集]]S，需要满足以下条件：
1、信息整合能力：<math> \phi(S) > 0 </math>，即子集内部能通过因果交互整合信息；
1、信息整合能力：<math> \phi(S) > 0 </math>，即[[子集]]内部能通过[[因果]]交互[[整合信息]]；
2、最大性：S不被任何其他具有更高<math>\phi</math> 值的子集包含，换言之，复合体是局部最优的信息整合单元。
2、最大性：S不被任何其他具有更高<math>\phi</math> 值的[[子集]]包含，换言之，复合体是局部最优的信息整合单元。
系统中<math>\phi</math> 值最高的复合体称为主复合体，代表系统整体信息整合能力的上限：
系统中<math>\phi</math> 值最高的复合体称为主复合体，代表系统整体信息整合能力的上限：
</math>
</math>
同时，该复合体的[[整合信息]]量<math>\phi</math>也是整个系统的[[整合信息]]量<math>\Phi</math>。
== Φ 的计算示例 ==
== Φ 的计算示例 ==
上面我们了解了[[整合信息]]量 Φ的计算框架，接下来我们通过一些具体算例，深入理解Φ的计算及相关特性。
=== 连续系统的计算 ===
=== [[连续]]系统的计算 ===
下面，为了展示<math>\phi</math>的计算，让我们考虑一个简化的连续模型，即一个线性动力学高斯噪声模型。例如，一个包含n个元素的孤立神经系统，这些元素可视为神经元组，其活动变量表示各组在数百毫秒内的放电率，彼此间的相互作用<ref name="Measuring_information_integration">{{cite journal|author1=Tononi G|author2=Boly M|author3=Massimini M|author4=Edelman D B|title=Measuring information integration|journal=PLOS Computational Biology|year=2016|volume=12|issue=3|page=e1004819|url=https://doi.org/10.1371/journal.pcbi.1004819}}</ref>，我们可以用一个线性化的动力学对其进行描述：
下面，为了展示<math>\phi</math>的计算，让我们考虑一个简化的[[连续]]模型，即一个线性[[动力学]]高斯[[噪声]]模型。例如，一个包含n个元素的孤立神经系统，这些元素可视为[[神经元]]组，其活动变量表示各组在数百毫秒内的放电率，彼此间的[[相互作用]]<ref name="Measuring_information_integration">{{cite journal|author1=Tononi G|author2=Boly M|author3=Massimini M|author4=Edelman D B|title=Measuring information integration|journal=PLOS Computational Biology|year=2016|volume=12|issue=3|page=e1004819|url=https://doi.org/10.1371/journal.pcbi.1004819}}</ref>，我们可以用一个[[线性化]]的[[动力学]]对其进行描述：
<math>
<math>
</math>
</math>
其中，<math>R\sim\mathcal{N}(0,I)</math>为一个标准高斯噪音，c为一个常数，因此<math>cR</math>表示该向量受强度为c的独立高斯噪声R驱动，A代表X的邻接矩阵，它刻画了X中各个元素之间的联系方式。
其中，<math>R\sim\mathcal{N}(0,I)</math>为一个标准高斯噪音，c为一个常数，因此<math>cR</math>表示该[[向量]]受强度为c的独立高斯[[噪声]]R驱动，A代表X的[[邻接矩阵]]，它刻画了X中各个元素之间的联系方式。
我们仅关注该系统的内在属性，并忽略来自环境的外部输入。因此，我们计算该[[随机过程]]的熵（H）是计算[[有效信息]][[EI]]关键步骤（详细计算过程参看本词条2.1章节），其计算过程如下：
<math>
<math>
</math>
</math>
其中[[协方差矩阵]]A是由：
<math>
<math>
</math>
</math>
计算的，这里 I为单位矩阵，A为系统的邻接矩阵。
计算的，这里 I为[[单位矩阵]]，A为系统的[[邻接矩阵]]。
=== 八节点网络算例 ===
=== 八[[节点]]网络算例 ===
如图2.3a所示，存在一个由8个节点构成的网络。其中，节点1、2、3和4构成紧密连接的集团，节点5、6和7构成另一个集团，8号节点作为信号源，指向所有节点。节点状态受指向自身的网络邻居状态以及噪声变量R的影响。
如图2.3a所示，存在一个由8个[[节点]]构成的网络。其中，[[节点]]1、2、3和4构成紧密连接的集团，[[节点]]5、6和7构成另一个集团，8号[[节点]]作为[[信号]]源，指向所有[[节点]]。[[节点]]状态受指向自身的网络邻居状态以及[[噪声]]变量R的影响。
针对该网络，可计算每个子网络的 <math>\phi</math>值如图2.3b所示，各子网络的包含节点情况如图2.3c所示。图2.3b的横坐标为 <math>\phi</math>值，纵坐标是所有子集编号；图2.3c中，横坐标表示节点标号，纵坐标表示子集标号，深灰和浅灰格子分别代表因果瓶颈的划分情况（即深灰和浅灰各占一半划分）。
针对该网络，可计算每个子网络的 <math>\phi</math>值如图2.3b所示，各子网络的包含[[节点]]情况如图2.3c所示。图2.3b的横坐标为 <math>\phi</math>值，纵坐标是所有[[子集]]编号；图2.3c中，横坐标表示[[节点]]标号，纵坐标表示[[子集]]标号，深灰和浅灰格子分别代表[[因果]]瓶颈的划分情况（即深灰和浅灰各占一半划分）。
[[文件:整合信息论图1.png|无|缩略图|900x900像素|图2.3 一个八节点的网络构成的简单线性系统(a), 所有子集的φ值计算(b)，各个子集对应的节点元素，以及最小划分情况(c)]]
[[文件:整合信息论图1.png|无|缩略图|900x900像素|图2.3 一个八节点的网络构成的简单线性系统(a), 所有子集的φ值计算(b)，各个子集对应的节点元素，以及最小划分情况(c)]]
从图中可知， <math>\phi</math>值最大的子网络是由节点1、2、3、4构成的彼此互联的社团，其 <math>\phi</math>值达到21比特。紧随其后的是者四个节点中的任意三个节点构成的子网络，它们的 <math>\phi</math>值相近，仅略低于四节点的社团。再之后是节点5、6、7构成的社团，其 <math>\phi</math>值略高于20。整个网络的 <math>\phi</math>值约为 7。而网络整体的 <math>\Phi</math>应取所有子网络中的最大 <math>\phi</math>值，即由节点1-4构成的子网络的21比特。
从图中可知， <math>\phi</math>值最大的子网络是由[[节点]]1、2、3、4构成的彼此互联的社团，其 <math>\phi</math>值达到21比特。紧随其后的是者四个[[节点]]中的任意三个[[节点]]构成的子网络，它们的 <math>\phi</math>值相近，仅略低于四[[节点]]的社团。再之后是[[节点]]5、6、7构成的社团，其 <math>\phi</math>值略高于20。整个网络的 <math>\phi</math>值约为 7。而网络整体的 <math>\Phi</math>应取所有子网络中的最大 <math>\phi</math>值，即由[[节点]]1-4构成的子网络的21比特。
=== 不同网络结构的 Φ 值 ===
=== 不同[[网络结构]]的 Φ 值 ===
在[[网络动力学]]（[[因果机制]]）不变的情况下，可比较不同[[网络结构]]对整体网络 <math>\Phi</math>值的影响。如图 2.4 所示，仅给出 <math>\Phi</math>值（因整个网络就是 <math>\phi</math>值最大的子网络），虚线对应[[因果]]瓶颈（[[有效信息]]最小）的划分处。图A-E均由8个[[节点]]构成，图A为单链结构，图B是单链成环结构，图C为双链结构。从A 到C，Φ 值不断增加，在双向连接时达到最大，因为此时左右两部分信息流最大，[[节点]]更易形成一个整体。图D和图E呈现中心-外围的连接模式，Φ值较小，因其网络构成过于集中化。
[[文件:整合信息论图2.png|无|缩略图|600x600像素|图2.4 五个不同的网络结构及其它们的φ值]]
[[文件:整合信息论图2.png|无|缩略图|600x600像素|图2.4 五个不同的网络结构及其它们的φ值]]
=== Φ 值最大化结构 ===
=== Φ 值最大化结构 ===
固定[[节点]]数、[[动力学]]以及每个[[节点]]的[[连边]]总数，图2.5展示了使 <math>\Phi</math>值最大的八[[节点]][[网络结构]]。该网络连接紧密，看似随机却与随机[[连边]]网络有显著差异。其特征如下：
*节点邻居异质性强：每个节点的邻居差异大，不同节点邻居的匹配度仅0.14（相似邻居的比例），而同等规模随机网络的匹配度为0.218。
*[[节点]]邻居[[异质性]]强：每个[[节点]]的邻居差异大，不同[[节点]]邻居的匹配度仅0.14（相似邻居的比例），而同等规模[[随机网络]]的匹配度为0.218。
*出入平衡：几乎每个节点仅有2个输入连边和2个输出连边，这与随机网络中少数节点拥有更多连接不同。
*出入平衡：几乎每个[[节点]]仅有2个输入[[连边]]和2个输出[[连边]]，这与[[随机网络]]中少数[[节点]]拥有更多连接不同。
*双向互惠连接少：该网络几乎不存在双向互惠连接（即A指向B且B也指向A），而随机网络中此类连接大量存在。此网络具有很高的整合度，<math>\Phi</math>值达60.76比特，同等规模随机网络的<math>\Phi</math>值仅35.66比特。
*双向互惠连接少：该网络几乎不存在双向互惠连接（即A指向B且B也指向A），而[[随机网络]]中此类连接大量存在。此网络具有很高的整合度，<math>\Phi</math>值达60.76比特，同等规模[[随机网络]]的<math>\Phi</math>值仅35.66比特。
[[文件:整合信息论图3.png|无|缩略图|360x360像素|图2.5 通过搜索所有的八节点的网络结构使φ值最大得到的最优网络结构]]
[[文件:整合信息论图3.png|无|缩略图|360x360像素|图2.5 通过搜索所有的八节点的网络结构使φ值最大得到的最优网络结构]]
=== Φ 值大小的影响因素 ===
=== Φ 值大小的影响因素 ===
除[[网络拓扑结构]]外，连接强度也会影响 <math>\Phi</math> 值大小。一般而言，<math>\Phi</math>值随连接平均强度的增加而增加，但并非强度越大越好，强度分配模式同样关键。当平均强度一致时，不同的强度分配模式会导致 <math>\Phi</math>值差异显著。在保持网络连接总强度不变的情况下，从每个[[节点]]都是自环的模式逐渐过渡到每个[[节点]]都平等地与其他[[节点]]等强度相连，<math>\Phi</math>值会先增大后减小。这表明，[[节点]]并非简单地将连接强度等同分配给所有其他[[节点]]，而是需精心选择连接对象，将大量连接强度分配给少数几条[[连边]]，且这些[[连边]]要尽可能连接其他[[节点]]较少连接的[[节点]]，此时<math>\Phi</math>值更大。此外，[[动力学]]也会影响 <math>\Phi</math>值。通过调节系数c可调整[[噪声]]对系统的相对影响大小，结果显示，[[噪声]]越强，<math>\Phi</math>值越小，网络整合度越低。
若将连接视为多个[[节点]]建立的[[信道]]，由于<math>\Phi</math>值是一种[[有效信息]]，[[信道]]带宽越高，<math>\Phi</math>值越大。在同等带宽下，[[节点]]彼此之间的连接模式极为重要，只有当每个[[节点]]尽可能连接不同的[[节点]]，增大连接的多样化，最终的 Φ 值才会更大。
=参考文献=
=参考文献=