IIT1.0

来自集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
Matthew(讨论 | 贡献)2026年1月6日 (二) 09:34的版本
跳到导航 跳到搜索

整合信息论(Integrated Information Theory, IIT)是探索意识本质的开创性理论框架,最早在2004年提出了首个版本的理论,并给出了具体的数学框架。本文旨在梳理IIT1.0的内容和发展脉络。

历史溯源

整合信息的计算

理解上述类比后,便可理解信息整合度 [math]\displaystyle{ \Phi }[/math] 的真实计算过程:首先,将复杂网络替换为大脑构成的因果网络,其中节点可视为神经元,连边代表神经元之间的突触链接;其次,将连边理解为两个节点间的因果联系,连边的强弱对应因果联系的有效信息(将系统二分后干预其中一个子系统的状态分布为均匀分布,然后考察两个子系统之间的互信息(Mutual Information)即为有效信息。有效信息刻画的是被切分的两个网络间的因果影响,具体可参见有效信息词条);最后,一个因果网络的信息整合程度,就指的是所有子网络中因果瓶颈(即最小有效信息)处的有效信息所能达到的最大值,而具有这一最大有效信息的子网络便是意识发生的区域。

定义

[math]\displaystyle{ \phi }[/math]指标用于量化系统的内在信息整合能力,其核心在于度量系统各部分之间因果交互的紧密程度,从而反映出系统整合信息的效能。从本质上讲,[math]\displaystyle{ \phi }[/math]是系统内在属性的函数,具体定义为“在最小信息二分切割下可交换的有效信息量”,适用于量化分布式网络(如大脑)中信息被统一处理的程度。表达式为:

[math]\displaystyle{ \phi(S)=EI(MIB(S)) }[/math]

其中,S表示待分析的子系统,MIB(S)代表最小信息的二分切割(即在所有对S的二划分中找到能够让两个子网络间有效信息最小的那个划分),EI即有效信息(Effective Information)。该指标通过计算系统“在最小信息二分切割下可交换的有效信息量”,来衡量系统的信息整合能力,[math]\displaystyle{ \phi }[/math]值越高,表示系统越能作为一个整体进行信息整合,而非仅仅是独立部分的集合[1]。

有效信息

有效信息是一种因果效应的度量,用于衡量子系统A对子系统B的因果影响。它是一种特殊的互信息,即在最大熵干预的前提下,度量A、B两个部分的互信息。具体公式为[2]:

[math]\displaystyle{ EI(A \rightarrow B)=\text{MI}(A^{Hmax}: B) }[/math]

其中,[math]\displaystyle{ MI(A: B) = H(A)+H(B)-H(A,B) }[/math]表示互信息,用于衡量A与B之间的统计依赖性;[math]\displaystyle{ A^{Hmax} }[/math]表示在切断A的输入连接后,向其注入最大熵噪声的扰动状态(见图2.2),这种扰动确保了A的输出变化完全由独立噪声驱动,从而纯粹反映A对B的因果作用。在一个连续的马尔科夫动力学系统中,最大熵噪声通常建模为高斯分布:[math]\displaystyle{ A^{Hmax} \sim \mathcal{N}(0,c_p^2 I) }[/math]( [math]\displaystyle{ c_p }[/math]为噪声强度,[math]\displaystyle{ I }[/math]为单位矩阵);在一个离散的马尔科夫动力学系统中,向其注入最大熵噪声,则是对系统做do干预(do-operator),将A系统状态分布干预成其定义域上的均匀分布([math]\displaystyle{ A^{Hmax}\sim U }[/math])。有效信息的高低直接反映了A与B之间因果连接的强度与特异性:若因果连接紧密且分化度(即为子集的状态多样性)高,EI值较高;反之,若连接微弱或因果效应单一,EI值趋近于零。若需详细了解离散以及连续的马尔科夫动力学系统的有效信息计算可以参看有效信息词条。

为了全面评估子系统A与B之间的因果交互,因此可以引入双向有效信息,定义为两个方向EI值的总和:

[math]\displaystyle{ \text{EI}(A \rightleftharpoons B) = \text{EI}(A \rightarrow B) + \text{EI}(B \rightarrow A) }[/math]

这一度量捕捉了A与B之间双向的因果流动,强调了交互的非对称性——即[math]\displaystyle{ EI(A \rightarrow B) }[/math] 与 [math]\displaystyle{ EI(B \rightarrow A) }[/math] 可能显著不同。双向有效信息是识别系统内部整合能力的关键基础,因为它反映了任意两个部分之间可交换的因果信息总量。


图2.2双向 EI为 EI(A⇌B)=EI(A→B)+EI(B→A)

最小信息二分(MIB)

最小信息二分(Minimum Information Bipartition,简称MIB)旨在确定使归一化有效信息(EI)最小化的二分切割方式,其核心是定位系统中最易割裂的“信息断层线”,即识别信息连接最薄弱的分割方案。 它的具体计算步骤如下:

1. 选择子系统[math]\displaystyle{ S \subseteq X }[/math],其中 X包含n个元素,S包含k个元素(2≤k≤n);

2. 枚举所有二分切割 [math]\displaystyle{ [A:B]_S }[/math],需满足[math]\displaystyle{ A \cup B = S }[/math](覆盖子集)且 [math]\displaystyle{ A \cap B = \emptyset }[/math](无交集),归一化有效信息后,有效信息最小的二分割即为所求。

最小信息二分 MIB(S)公式定义为:

[math]\displaystyle{ \text{MIB}(S) = argmin_{[A:B]_S} (\text{Normalized EI}) }[/math]

含义为在所有二分切割中选取归一化有效信息最小的划分。

归一化有效信息的计算公式为:

[math]\displaystyle{ \text{Normalized EI} = \frac{\text{EI}(A \rightleftharpoons B)}{\min\{H_{\text{max}}(A), H_{\text{max}}(B)\}} }[/math]

其中对于一个连续的马尔科夫动力学系统的最大熵[math]\displaystyle{ A^{Hmax} }[/math]的计算方式为:

[math]\displaystyle{ H_{\text{max}}(A) = \frac{1}{2}\ln\left[(2\pi e c_p^2)^m\right] }[/math]

其中 [math]\displaystyle{ m = \text{dim}(A) }[/math]表示 A的维度。

而对于一个离散的马尔科夫动力学系统的最大熵[math]\displaystyle{ A^{Hmax} }[/math]的计算方式为:

[math]\displaystyle{ H_{\text{max}}(A) =\log_2 m }[/math]

同样的[math]\displaystyle{ m = \text{dim}(A) }[/math]表示A的维度。

经过了上面的一系列运算,对于集合S的整合信息量[math]\displaystyle{ \Phi(S) }[/math]最终根据定义:

[math]\displaystyle{ \phi(S) = \text{EI}(\text{MIB}(S)) }[/math]

须注意,此处使用的是[math]\displaystyle{ MIB(S) }[/math]对应的未归一化的有效信息值。

复合体(complex)

前面给大家讲解了如何计算一个系统的整合信息[math]\displaystyle{ \phi }[/math] ,但是要确定这个系统的整合信息量的大小,还需要考虑其子集,因为有可能会出现子集的整合信息程度会大于整体的情况,这时整体的整合信息量就由子集主导。为了更好地说明这种情况,由此引入了复合体(complex)的概念,其定义为复合体是系统X的一个子集S,需要满足以下条件:

​​1、信息整合能力​​:[math]\displaystyle{ \phi(S) \gt 0 }[/math],即子集内部能通过因果交互整合信息;

​​2、最大性​​:S不被任何其他具有更高[math]\displaystyle{ \phi }[/math] 值的子集包含,换言之,复合体是局部最优的信息整合单元。

系统中[math]\displaystyle{ \phi }[/math] 值最高的复合体称为​​主复合体​​,代表系统整体信息整合能力的上限:

[math]\displaystyle{ \text{main complex}(X) = \arg\max_{S \subseteq X} \phi(S) }[/math]

同时,该复合体的整合信息量[math]\displaystyle{ \phi }[/math]也是整个系统的整合信息量[math]\displaystyle{ \Phi }[/math]。

Φ 的计算示例

上面我们了解了整合信息量 Φ的计算框架,接下来我们通过一些具体算例,深入理解Φ的计算及相关特性。

连续系统的计算

下面,为了展示[math]\displaystyle{ \phi }[/math]的计算,让我们考虑一个简化的连续模型,即一个线性动力学高斯噪声模型。例如,一个包含n个元素的孤立神经系统,这些元素可视为神经元组,其活动变量表示各组在数百毫秒内的放电率,彼此间的相互作用[2],我们可以用一个线性化的动力学对其进行描述:

[math]\displaystyle{ X_t=X_{t−1}⋅A + cR }[/math]

其中,[math]\displaystyle{ R\sim\mathcal{N}(0,I) }[/math]为一个标准高斯噪音,c为一个常数,因此[math]\displaystyle{ cR }[/math]表示该向量受强度为c的独立高斯噪声R驱动,A代表X的邻接矩阵,它刻画了X中各个元素之间的联系方式。

我们仅关注该系统的内在属性,并忽略来自环境的外部输入。因此,我们计算该随机过程的熵(H)是计算有效信息EI关键步骤(详细计算过程参看本词条2.1章节),其计算过程如下:

[math]\displaystyle{ H(X) = \frac{1}{2}\ln\left[(2\pi e)^{\text{dim}(X)} \cdot |\text{COV}(X)|\right] }[/math]

其中协方差矩阵A是由:

[math]\displaystyle{ \text{COV}(X) = Q^T Q,Q =(I - A)^{-1} }[/math]

计算的,这里 I为单位矩阵,A为系统的邻接矩阵。

八节点网络算例

如图2.3a所示,存在一个由8个节点构成的网络。其中,节点1、2、3和4构成紧密连接的集团,节点5、6和7构成另一个集团,8号节点作为信号源,指向所有节点。节点状态受指向自身的网络邻居状态以及噪声变量R的影响。

针对该网络,可计算每个子网络的 [math]\displaystyle{ \phi }[/math]值如图2.3b所示,各子网络的包含节点情况如图2.3c所示。图2.3b的横坐标为 [math]\displaystyle{ \phi }[/math]值,纵坐标是所有子集编号;图2.3c中,横坐标表示节点标号,纵坐标表示子集标号,深灰和浅灰格子分别代表因果瓶颈的划分情况(即深灰和浅灰各占一半划分)。

图2.3 一个八节点的网络构成的简单线性系统(a), 所有子集的φ值计算(b),各个子集对应的节点元素,以及最小划分情况(c)

从图中可知, [math]\displaystyle{ \phi }[/math]值最大的子网络是由节点1、2、3、4构成的彼此互联的社团,其 [math]\displaystyle{ \phi }[/math]值达到21比特。紧随其后的是者四个节点中的任意三个节点构成的子网络,它们的 [math]\displaystyle{ \phi }[/math]值相近,仅略低于四节点的社团。再之后是节点5、6、7构成的社团,其 [math]\displaystyle{ \phi }[/math]值略高于20。整个网络的 [math]\displaystyle{ \phi }[/math]值约为 7。而网络整体的 [math]\displaystyle{ \Phi }[/math]应取所有子网络中的最大 [math]\displaystyle{ \phi }[/math]值,即由节点1-4构成的子网络的21比特。

不同网络结构的 Φ 值

在网络动力学(因果机制)不变的情况下,可比较不同网络结构对整体网络 [math]\displaystyle{ \Phi }[/math]值的影响。如图 2.4 所示,仅给出 [math]\displaystyle{ \Phi }[/math]值(因整个网络就是 [math]\displaystyle{ \phi }[/math]值最大的子网络),虚线对应因果瓶颈(有效信息最小)的划分处。图A-E均由8个节点构成,图A为单链结构,图B是单链成环结构,图C为双链结构。从A 到C,Φ 值不断增加,在双向连接时达到最大,因为此时左右两部分信息流最大,节点更易形成一个整体。图D和图E呈现中心-外围的连接模式,Φ值较小,因其网络构成过于集中化。

图2.4 五个不同的网络结构及其它们的φ值

Φ 值最大化结构

固定节点数、动力学以及每个节点的连边总数,图2.5展示了使 [math]\displaystyle{ \Phi }[/math]值最大的八节点网络结构。该网络连接紧密,看似随机却与随机连边网络有显著差异。其特征如下:

  • 节点邻居异质性强:每个节点的邻居差异大,不同节点邻居的匹配度仅0.14(相似邻居的比例),而同等规模随机网络的匹配度为0.218。
  • 出入平衡:几乎每个节点仅有2个输入连边和2个输出连边,这与随机网络中少数节点拥有更多连接不同。
  • 双向互惠连接少:该网络几乎不存在双向互惠连接(即A指向B且B也指向A),而随机网络中此类连接大量存在。此网络具有很高的整合度,[math]\displaystyle{ \Phi }[/math]值达60.76比特,同等规模随机网络的[math]\displaystyle{ \Phi }[/math]值仅35.66比特。
图2.5 通过搜索所有的八节点的网络结构使φ值最大得到的最优网络结构

Φ 值大小的影响因素

除网络拓扑结构外,连接强度也会影响 [math]\displaystyle{ \Phi }[/math] 值大小。一般而言,[math]\displaystyle{ \Phi }[/math]值随连接平均强度的增加而增加,但并非强度越大越好,强度分配模式同样关键。当平均强度一致时,不同的强度分配模式会导致 [math]\displaystyle{ \Phi }[/math]值差异显著。在保持网络连接总强度不变的情况下,从每个节点都是自环的模式逐渐过渡到每个节点都平等地与其他节点等强度相连,[math]\displaystyle{ \Phi }[/math]值会先增大后减小。这表明,节点并非简单地将连接强度等同分配给所有其他节点,而是需精心选择连接对象,将大量连接强度分配给少数几条连边,且这些连边要尽可能连接其他节点较少连接的节点,此时[math]\displaystyle{ \Phi }[/math]值更大。此外,动力学也会影响 [math]\displaystyle{ \Phi }[/math]值。通过调节系数c可调整噪声对系统的相对影响大小,结果显示,噪声越强,[math]\displaystyle{ \Phi }[/math]值越小,网络整合度越低。

若将连接视为多个节点建立的信道,由于[math]\displaystyle{ \Phi }[/math]值是一种有效信息,信道带宽越高,[math]\displaystyle{ \Phi }[/math]值越大。在同等带宽下,节点彼此之间的连接模式极为重要,只有当每个节点尽可能连接不同的节点,增大连接的多样化,最终的 Φ 值才会更大。

参考文献

  1. ↑ Tononi G (2004). "An information integration theory of consciousness". BMC Neuroscience. 5 (1): 42.
  2. ↑ 2.0 2.1 Tononi G; Boly M; Massimini M; Edelman D B (2016). "Measuring information integration". PLOS Computational Biology. 12 (3): e1004819.