IIT1.0
整合信息论(Integrated Information Theory, IIT)是探索意识本质的开创性理论框架,最早在2004年提出了首个版本的理论,并给出了具体的数学框架。本文旨在梳理IIT1.0的内容和发展脉络。
历史溯源
意识包括对自身内在事物的觉察,以及对外部环境中的状态或对象的认知。千百年来,哲学家、科学家和神学家们一直在广泛解释、分析和辩论关于意识的理论[1]。直至19世纪末,心理学家威廉·詹姆斯[2]率先将有关意识的讨论和研究带入到了科学研究的范畴里,尤其是启发了后续关于意识的神经关联(Neural Correlates of Consciousness, NCC)的一系列科学研究[3]。在现代意识研究中,“现象意识”这一专业术语是所有意识形式的通用同义词,或简称“体验”,不区分内在与外在,或高阶与低阶类型。随着脑科学研究的进步,“任何形式的经验现象的存在”成为那些神经科学家工作的基础,他们试图分析意识现象学与其相关信息处理在大脑中的精确关系。这一神经科学目标是寻找“意识的神经关联”(NCC)[4],即确定足以产生特定意识体验的最小神经机制。然而,NCC研究主要回答“意识与何处相关”,却未从根本上解释“主观体验如何从物理系统中产生”以及“意识有多少”。
整合信息论(IIT)由Giulio Tononi于2004年提出,从意识的现象学公理出发,反向推导出意识必需的物理基础,并提出了整合信息的量化指标——Φ值,用以衡量一个系统的意识水平。整合信息论(IIT)试图回答意识的两个核心问题:
意识的“数量”:一个系统具有多强意识(意识的程度或水平)。
意识的“质量”:一个系统具有何种意识(意识的具体内容或体验)。
整合信息论(IIT)不仅尝试直面“物理如何产生主观”这一根本问题,也首次使意识的定量化、跨系统比较成为可能[5],为构建可验证、可计算意识科学奠定了重要基础。
意识的现象学特性
香农提出信息论的一个直觉:一个系统的可能状态越多,蕴含的信息量就越大(当然也与状态的分布有关)。
分化(Differentiation)
意识体验具有高度的特异性与丰富性,即在任一时刻,我们可以经历大量截然不同、泾渭分明的意识状态——例如,此刻我们看到的、听到的、感受到的复杂场景,与前一刻可能完全不同。
核心含义在于,清醒的意识不是一个空泛、单一的“存在感”,而是一个包含着海量特定信息的场域。这意味着,从可能的状态空间来看,意识系统的“信息”容量极高。
在IIT 1.0的框架中,这一特性直接映射到有效信息(EI)的计算逻辑上。有效信息衡量的是一个系统(或子系统)能够对另一个系统施加的可能因果效应范围[5]。 为了评估这种“可能性”,IIT在计算EI时,刻意将系统某一部分的输入用最大熵噪声源(最大不确定性)替代。此举旨在探测:系统的因果结构允许它产生多少种不同的、特定的影响?因此,一个系统的有效信息矩阵如果包含大量高EI值,就表明其内部各单元之间存在着丰富且特定的因果交互模式,能够在理论上支持大量不同的状态。这直接对应于现象学上体验的“分化”(Differentiation)。
整合(Integration)
意识体验不仅是特定的一个体验,同时它一定是一个整体的体验,不可被分割,这便是整合信息论(IIT)所有公理里最著名的整合公理(Integration)。
整合的本质是因果上的不可分割性。整合(Integration) 在IIT1.0中定义了意识的“存在形式”——它必须是统一的。而信息性(Information) 则定义了意识的“丰富内容”。一个具有高整合性的系统,其整体对自身的因果效力,大于其各部分因果效力之和。
IIT1.0用数学量Φ(Phi) 来精确衡量这种不可分割的程度。Φ值量化了当系统(在自然的关节处)被分割为两部分时,其内在因果结构所损失的信息量。 一个系统的Φ值越高,意味着它作为一个统一整体的不可还原性越强,根据IIT,其意识水平也就越高。
IIT1.0理论认为,意识与整合信息的能力有关。这一观点可能看起来并不自明,也许是因为我们在大部分生命历程中都拥有意识,因此习以为常。为了获得一些视角,借助一些思想实验来说明主观体验的关键特性是有用的:它的信息性、统一性以及时空规模。
意识体验中的信息整合在现象学上是显而易见的:当你有意识地“看到”某一图像时,这个图像会被体验为一个整体,不能被分割成独立体验的组成图像。例如,无论你多么努力,你都无法独立体验颜色和形状,也无法独立体验视觉场左半部分与右半部分。实际上,唯一可以做到的方法是物理上将大脑一分为二,以阻止两半脑之间的信息整合。但这样一来,这种分裂脑手术会产生两个独立的意识主体,每个主体都有较小的可用状态库和更有限的性能。
考虑另一个思想实验:你可能昏迷数天,只在清醒一秒钟,然后又回到昏迷状态。只要你的丘脑-皮层系统在这一秒钟内能够正常运作,你就有意识。也就是说,一个系统不必探索其状态库来拥有意识,或知道自己应有多有意识:重要的是,这个状态库潜在上是可用的。
此外,IIT1.0理论能够直接解释为何意识与大脑某些部分相关联以及与某些整体功能模式的关联。
概念的定义和计算
理解上述类比后,便可理解信息整合度 [math]\displaystyle{ \Phi }[/math] 的真实计算过程:首先,将复杂网络替换为大脑构成的因果网络,其中节点可视为神经元,连边代表神经元之间的突触链接;其次,将连边理解为两个节点间的因果联系,连边的强弱对应因果联系的有效信息(将系统二分后干预其中一个子系统的状态分布为均匀分布,然后考察两个子系统之间的互信息(Mutual Information)即为有效信息。有效信息刻画的是被切分的两个网络间的因果影响,具体可参见有效信息词条);最后,一个因果网络的信息整合程度,就指的是所有子网络中因果瓶颈(即最小有效信息)处的有效信息所能达到的最大值,而具有这一最大有效信息的子网络便是意识发生的区域。
定义
[math]\displaystyle{ \phi }[/math]指标用于量化系统的内在信息整合能力,其核心在于度量系统各部分之间因果交互的紧密程度,从而反映出系统整合信息的效能。从本质上讲,[math]\displaystyle{ \phi }[/math]是系统内在属性的函数,具体定义为“在最小信息二分切割下可交换的有效信息量”,适用于量化分布式网络(如大脑)中信息被统一处理的程度。表达式为:
[math]\displaystyle{ \phi(S)=EI(MIB(S)) }[/math]
其中,S表示待分析的子系统,MIB(S)代表最小信息的二分切割(即在所有对S的二划分中找到能够让两个子网络间有效信息最小的那个划分),EI即有效信息(Effective Information)。该指标通过计算系统“在最小信息二分切割下可交换的有效信息量”,来衡量系统的信息整合能力,[math]\displaystyle{ \phi }[/math]值越高,表示系统越能作为一个整体进行信息整合,而非仅仅是独立部分的集合[5]。
有效信息
有效信息是一种因果效应的度量,用于衡量子系统A对子系统B的因果影响。它是一种特殊的互信息,即在最大熵干预的前提下,度量A、B两个部分的互信息。具体公式为[6]:
[math]\displaystyle{ EI(A \rightarrow B)=\text{MI}(A^{Hmax}: B) }[/math]
其中,[math]\displaystyle{ MI(A: B) = H(A)+H(B)-H(A,B) }[/math]表示互信息,用于衡量A与B之间的统计依赖性;[math]\displaystyle{ A^{Hmax} }[/math]表示在切断A的输入连接后,向其注入最大熵噪声的扰动状态(见图2.2),这种扰动确保了A的输出变化完全由独立噪声驱动,从而纯粹反映A对B的因果作用。在一个连续的马尔科夫动力学系统中,最大熵噪声通常建模为高斯分布:[math]\displaystyle{ A^{Hmax} \sim \mathcal{N}(0,c_p^2 I) }[/math]( [math]\displaystyle{ c_p }[/math]为噪声强度,[math]\displaystyle{ I }[/math]为单位矩阵);在一个离散的马尔科夫动力学系统中,向其注入最大熵噪声,则是对系统做do干预(do-operator),将A系统状态分布干预成其定义域上的均匀分布([math]\displaystyle{ A^{Hmax}\sim U }[/math])。有效信息的高低直接反映了A与B之间因果连接的强度与特异性:若因果连接紧密且分化度(即为子集的状态多样性)高,EI值较高;反之,若连接微弱或因果效应单一,EI值趋近于零。若需详细了解离散以及连续的马尔科夫动力学系统的有效信息计算可以参看有效信息词条。
为了全面评估子系统A与B之间的因果交互,因此可以引入双向有效信息,定义为两个方向EI值的总和:
[math]\displaystyle{ \text{EI}(A \rightleftharpoons B) = \text{EI}(A \rightarrow B) + \text{EI}(B \rightarrow A) }[/math]
这一度量捕捉了A与B之间双向的因果流动,强调了交互的非对称性——即[math]\displaystyle{ EI(A \rightarrow B) }[/math] 与 [math]\displaystyle{ EI(B \rightarrow A) }[/math] 可能显著不同。双向有效信息是识别系统内部整合能力的关键基础,因为它反映了任意两个部分之间可交换的因果信息总量。
意识的量
最小信息二分(MIB)
最小信息二分(Minimum Information Bipartition,简称MIB)旨在确定使归一化有效信息(EI)最小化的二分切割方式,其核心是定位系统中最易割裂的“信息断层线”,即识别信息连接最薄弱的分割方案。 它的具体计算步骤如下:
1. 选择子系统[math]\displaystyle{ S \subseteq X }[/math],其中 X包含n个元素,S包含k个元素(2≤k≤n);
2. 枚举所有二分切割 [math]\displaystyle{ [A:B]_S }[/math],需满足[math]\displaystyle{ A \cup B = S }[/math](覆盖子集)且 [math]\displaystyle{ A \cap B = \emptyset }[/math](无交集),归一化有效信息后,有效信息最小的二分割即为所求。
最小信息二分 MIB(S)公式定义为:
[math]\displaystyle{ \text{MIB}(S) = argmin_{[A:B]_S} (\text{Normalized EI}) }[/math]
[math]\displaystyle{ \text{Normalized EI} = \frac{\text{EI}(A \rightleftharpoons B)}{\min\{H_{\text{max}}(A), H_{\text{max}}(B)\}} }[/math]
其中对于一个连续的马尔科夫动力学系统的最大熵[math]\displaystyle{ A^{Hmax} }[/math]的计算方式为:
[math]\displaystyle{ H_{\text{max}}(A) = \frac{1}{2}\ln\left[(2\pi e c_p^2)^m\right] }[/math]
其中 [math]\displaystyle{ m = \text{dim}(A) }[/math]表示 A的维度。
而对于一个离散的马尔科夫动力学系统的最大熵[math]\displaystyle{ A^{Hmax} }[/math]的计算方式为:
[math]\displaystyle{ H_{\text{max}}(A) =\log_2 m }[/math]
同样的[math]\displaystyle{ m = \text{dim}(A) }[/math]表示A的维度。
经过了上面的一系列运算,对于集合S的整合信息量[math]\displaystyle{ \Phi(S) }[/math]最终根据定义:
[math]\displaystyle{ \phi(S) = \text{EI}(\text{MIB}(S)) }[/math]
须注意,此处使用的是[math]\displaystyle{ MIB(S) }[/math]对应的未归一化的有效信息值。
整合信息(Φ)
上面我们了解了整合信息量 Φ的计算框架,接下来我们通过一些具体算例,深入理解Φ的计算及相关特性。
连续系统的计算
下面,为了展示[math]\displaystyle{ \phi }[/math]的计算,让我们考虑一个简化的连续模型,即一个线性动力学高斯噪声模型。例如,一个包含n个元素的孤立神经系统,这些元素可视为神经元组,其活动变量表示各组在数百毫秒内的放电率,彼此间的相互作用[6],我们可以用一个线性化的动力学对其进行描述:
[math]\displaystyle{ X_t=X_{t−1}⋅A + cR }[/math]
其中,[math]\displaystyle{ R\sim\mathcal{N}(0,I) }[/math]为一个标准高斯噪音,c为一个常数,因此[math]\displaystyle{ cR }[/math]表示该向量受强度为c的独立高斯噪声R驱动,A代表X的邻接矩阵,它刻画了X中各个元素之间的联系方式。
我们仅关注该系统的内在属性,并忽略来自环境的外部输入。因此,我们计算该随机过程的熵(H)是计算有效信息EI关键步骤(详细计算过程参看本词条2.1章节),其计算过程如下:
[math]\displaystyle{ H(X) = \frac{1}{2}\ln\left[(2\pi e)^{\text{dim}(X)} \cdot |\text{COV}(X)|\right] }[/math]
其中协方差矩阵A是由:
[math]\displaystyle{ \text{COV}(X) = Q^T Q,Q =(I - A)^{-1} }[/math]
八节点网络算例
如图2.3a所示,存在一个由8个节点构成的网络。其中,节点1、2、3和4构成紧密连接的集团,节点5、6和7构成另一个集团,8号节点作为信号源,指向所有节点。节点状态受指向自身的网络邻居状态以及噪声变量R的影响。
针对该网络,可计算每个子网络的 [math]\displaystyle{ \phi }[/math]值如图2.3b所示,各子网络的包含节点情况如图2.3c所示。图2.3b的横坐标为 [math]\displaystyle{ \phi }[/math]值,纵坐标是所有子集编号;图2.3c中,横坐标表示节点标号,纵坐标表示子集标号,深灰和浅灰格子分别代表因果瓶颈的划分情况(即深灰和浅灰各占一半划分)。
从图中可知, [math]\displaystyle{ \phi }[/math]值最大的子网络是由节点1、2、3、4构成的彼此互联的社团,其 [math]\displaystyle{ \phi }[/math]值达到21比特。紧随其后的是者四个节点中的任意三个节点构成的子网络,它们的 [math]\displaystyle{ \phi }[/math]值相近,仅略低于四节点的社团。再之后是节点5、6、7构成的社团,其 [math]\displaystyle{ \phi }[/math]值略高于20。整个网络的 [math]\displaystyle{ \phi }[/math]值约为 7。而网络整体的 [math]\displaystyle{ \Phi }[/math]应取所有子网络中的最大 [math]\displaystyle{ \phi }[/math]值,即由节点1-4构成的子网络的21比特。
不同网络结构的 Φ 值
在网络动力学(因果机制)不变的情况下,可比较不同网络结构对整体网络 [math]\displaystyle{ \Phi }[/math]值的影响。如图 2.4 所示,仅给出 [math]\displaystyle{ \Phi }[/math]值(因整个网络就是 [math]\displaystyle{ \phi }[/math]值最大的子网络),虚线对应因果瓶颈(有效信息最小)的划分处。图A-E均由8个节点构成,图A为单链结构,图B是单链成环结构,图C为双链结构。从A 到C,Φ 值不断增加,在双向连接时达到最大,因为此时左右两部分信息流最大,节点更易形成一个整体。图D和图E呈现中心-外围的连接模式,Φ值较小,因其网络构成过于集中化。
Φ 值最大化结构
固定节点数、动力学以及每个节点的连边总数,图2.5展示了使 [math]\displaystyle{ \Phi }[/math]值最大的八节点网络结构。该网络连接紧密,看似随机却与随机连边网络有显著差异。其特征如下:
- 节点邻居异质性强:每个节点的邻居差异大,不同节点邻居的匹配度仅0.14(相似邻居的比例),而同等规模随机网络的匹配度为0.218。
- 出入平衡:几乎每个节点仅有2个输入连边和2个输出连边,这与随机网络中少数节点拥有更多连接不同。
- 双向互惠连接少:该网络几乎不存在双向互惠连接(即A指向B且B也指向A),而随机网络中此类连接大量存在。此网络具有很高的整合度,[math]\displaystyle{ \Phi }[/math]值达60.76比特,同等规模随机网络的[math]\displaystyle{ \Phi }[/math]值仅35.66比特。
Φ 值大小的影响因素
除网络拓扑结构外,连接强度也会影响 [math]\displaystyle{ \Phi }[/math] 值大小。一般而言,[math]\displaystyle{ \Phi }[/math]值随连接平均强度的增加而增加,但并非强度越大越好,强度分配模式同样关键。当平均强度一致时,不同的强度分配模式会导致 [math]\displaystyle{ \Phi }[/math]值差异显著。在保持网络连接总强度不变的情况下,从每个节点都是自环的模式逐渐过渡到每个节点都平等地与其他节点等强度相连,[math]\displaystyle{ \Phi }[/math]值会先增大后减小。这表明,节点并非简单地将连接强度等同分配给所有其他节点,而是需精心选择连接对象,将大量连接强度分配给少数几条连边,且这些连边要尽可能连接其他节点较少连接的节点,此时[math]\displaystyle{ \Phi }[/math]值更大。此外,动力学也会影响 [math]\displaystyle{ \Phi }[/math]值。通过调节系数c可调整噪声对系统的相对影响大小,结果显示,噪声越强,[math]\displaystyle{ \Phi }[/math]值越小,网络整合度越低。
若将连接视为多个节点建立的信道,由于[math]\displaystyle{ \Phi }[/math]值是一种有效信息,信道带宽越高,[math]\displaystyle{ \Phi }[/math]值越大。在同等带宽下,节点彼此之间的连接模式极为重要,只有当每个节点尽可能连接不同的节点,增大连接的多样化,最终的 Φ 值才会更大。
复合体(complex)
前面给大家讲解了如何计算一个系统的整合信息[math]\displaystyle{ \phi }[/math] ,但是要确定这个系统的整合信息量的大小,还需要考虑其子集,因为有可能会出现子集的整合信息程度会大于整体的情况,这时整体的整合信息量就由子集主导。为了更好地说明这种情况,由此引入了复合体(complex)的概念,其定义为复合体是系统X的一个子集S,需要满足以下条件:
1、信息整合能力:[math]\displaystyle{ \phi(S) \gt 0 }[/math],即子集内部能通过因果交互整合信息;
2、最大性:S不被任何其他具有更高[math]\displaystyle{ \phi }[/math] 值的子集包含,换言之,复合体是局部最优的信息整合单元。
系统中[math]\displaystyle{ \phi }[/math] 值最高的复合体称为主复合体,代表系统整体信息整合能力的上限:
[math]\displaystyle{ \text{main complex}(X) = \arg\max_{S \subseteq X} \phi(S) }[/math]
同时,该复合体的整合信息量[math]\displaystyle{ \phi }[/math]也是整个系统的整合信息量[math]\displaystyle{ \Phi }[/math]。
意识的质
有效信息矩阵
在整合信息论(IIT)中,有效信息矩阵 是定义意识体验 具体内容与质性 的核心数学对象。如果说 Φ值 量化了意识的“量”(整合程度),那么有效信息矩阵则完整刻画了意识的“质”(独特体验)。它被概念化为 感质空间 的几何或拓扑结构蓝图。
有效信息矩阵是一个方阵,其行和列对应于系统 主复合体 中所有可能的元素子集(或基本元素本身)。矩阵中的每个条目 EI(X→Y) 表示从一个特定子系统 X 到另一个子系统 Y 的 有效信息 值。
每个 EI(X→Y) 的计算遵循IIT对“有效信息”的标准定义:
- 对子系统 X 施加 最大熵干预(即,将其输出替换为所有可能状态上的均匀随机噪声)。
- 在 Y 中观察由此引发的状态分布。
- 计算 X 的最大熵分布与 Y 的响应分布之间的 互信息。这个值衡量了 X 的所有可能输出能在 Y 中产生多少可区分的因果效应。
该矩阵包含了主复合体内 每一对因果方向 的潜在影响力。因此,它不是一个描述观察到的平均活动的“功能连接”矩阵,而是一个描述 全部因果可能性 的“因果潜力”矩阵。
IIT提出,主复合体中的每个基本元素(或功能单元)构成了一个抽象 感质空间 的一个维度。然而,仅有维度不足以定义体验的质性——关键在于这些维度之间的 关系。
结构决定质性的示例——考虑两个极其简单的系统,每个都由四个元素组成,且计算出的Φ值相同(Φ=10比特):
- 系统A(发散结构):元素1强连接至元素2、3、4,但后三者之间彼此无直接连接。
- 系统B(链式结构):元素1连接至2,2连接至3,3连接至4。
尽管意识“量”相同,但两者的有效信息矩阵截然不同。系统A的矩阵显示出一个中心枢纽与多个终端的关系;系统B的矩阵则显示出一个顺序链式关系。IIT认为,这种信息关系结构的差异,直接对应着意识体验质的差异。系统A的体验可能像一个中心主题带有多个附属属性;系统B的体验则可能像一段线性的序列或流程。
感质空间(qualia space)
感质空间 是整合信息论(IIT)中用于形式化描述意识体验具体内容(即“质性”)的核心抽象模型。它是一个高维的、结构化的数学空间,其几何或拓扑形态完全由物理系统的因果结构决定。IIT提出,每一种可能的意识体验,都对应于此空间中的一个特定点或区域;而体验之间的相似性与差异性,则对应于空间中点与点之间的距离与关系。
1. 定义与构建原理
感质空间并非一个预先存在的容器,而是从一个系统的 主复合体 中“涌现”出来的关系结构。
- 维度:构成主复合体的每一个基本功能单元(例如,一个神经元集群或一个信息处理模块),被定义为感质空间的一个独立维度。因此,一个具有N个功能单元的主复合体,其感质空间就是一个N维空间。
- 结构:这些维度之间的关系并非彼此正交、独立。它们之间的“夹角”或“连接强度”,由 有效信息矩阵 中的条目精确界定。矩阵中两个单元之间的有效信息值越高,意味着它们在因果上耦合越紧密,在感质空间中对应的两个维度也就越“接近”或关联越强。
- 构建:因此,有效信息矩阵是感质空间的生成蓝图。通过这个矩阵,可以计算出空间的内在几何(如维度间的距离、曲率)或拓扑(如连接图)。一个高度整合、结构复杂的主复合体,将产生一个维度极高、内部结构极其丰富的感质空间。
2. 核心作用:将体验映射为数学对象
感质空间的概念,旨在为第一人称的主观体验提供一个第三人称的、可数学描述的对应物。
- 体验即位置:在任一时刻,主复合体内所有功能单元的特定活动模式(例如,特定神经元的放电率),为感质空间的每个维度提供了一个坐标值。这组坐标在空间中唯一地确定了一个 点。这个点就代表了系统在该时刻的完整意识体验。
- 质性差异即几何差异:两种不同体验(如“看到红色”与“听到中音C”)之间的质性差异,对应于它们在感质空间中相距甚远,且可能位于由不同维度子集所张成的不同子空间中。而相似体验(如“深红”与“浅红”)则在空间中彼此邻近。
- 解释现象学关系:意识体验中固有的现象学关系(例如,红色与橙色感觉上比红色与喇叭声更接近),被直接归因于感质空间的几何结构。负责编码红色的神经元集群与编码橙色的集群,它们之间的有效信息值(因果互动)高于它们与听觉集群之间的值,因此在感质空间中,前两者对应的维度夹角更小,距离更近。
感质空间是IIT试图 桥解释义鸿沟 的关键尝试。它将“难以言喻”的感质,转化为可原则上从系统物理状态计算得出的空间结构。它使比较不同系统(人、动物、潜在的人工智能)的意识内容成为理论可能——即比较它们的感质空间几何。简而言之,感质空间 是IIT将意识质性数学化、几何化的雄心勃勃的理论工具。
计算案例
神经科学上的应用
理论的局限
参考文献
- ↑ https://en.wikipedia.org/wiki/Consciousness
- ↑ https://baike.baidu.com/item/%E5%A8%81%E5%BB%89%C2%B7%E8%A9%B9%E5%A7%86%E6%96%AF/6487016
- ↑ Tononi, G.; Edelman, G.M. (1998). "Consciousness and Complexity". Science. 282 (5395): 1846–1851.
- ↑ Velmans, Max (2009). "How to define consciousness—and how not to define consciousness". Journal of Consciousness Studies. 16: 139–156.
- ↑ 5.0 5.1 5.2 Tononi G (2004). "An information integration theory of consciousness". BMC Neuroscience. 5 (1): 42.
- ↑ 6.0 6.1 Tononi G; Boly M; Massimini M; Edelman D B (2016). "Measuring information integration". PLOS Computational Biology. 12 (3): e1004819.