11
个编辑
更改
跳到导航
跳到搜索
第321行：
第321行： + − + − 在IIT2.0版本中提出了Repertoire（可能性分布）描述系统状态的 “可能性集合”，是计算信息的基础，分为两类：先验 Repertoire（<math> p^{max}(X_0) </math>）和后验Repertoire（<math>p(X_0 \to x_1)</math>），单点有效信息的定义则基于此，定义为系统从先验概率分布（最大熵分布）过渡到后验分布（通过因果机制确定的分布）时所减少的不确定性。+ − 公式： − <math>ei(X_0 \rightarrow x_1) = H(p^{\mathrm{max}}(X_0)) - H(p(X_0 \rightarrow x_1))</math> − + − 在完全无知的情况下，系统所有可能初始状态的分布（通常是均匀分布）。如图4.1中 n 个二元元素的系统有<math>2^n</math>种初始状态，每种概率相等（3 个二元元素的先验 Repertoire 含 8 种状态，熵 = 3 比特）。+ − ==== 后验Repertoire ====+ − 能通过系统因果交互导致当前状态<math>x_1</math>的初始状态分布，需通过 “扰动实验” 确定：强制系统进入每种先验状态，筛选出可产生<math>x_1</math>的状态（例如图4.1中 3 个 AND 门系统，仅 1 种初始状态能导致<math>x_1=001</math>，后验 Repertoire 熵 = 0）。 − + + − + − + + + + + + + + + + + + + + + + + + + 第346行：
第363行： + + − 作者进一步引入纠缠（entanglement, γ） 的概念，用以衡量信息关系是否可分解为其组成部分的简单叠加。不可分解的信息关系（γ > 0）被称为概念（concepts），而高度纠缠的概念集群则构成模式（modes）。模式对应意识中的基本单位或模态，如“红色”或“视觉体验”。例如，视觉和听觉可能对应感质中两个不同的模式子形状，它们既相对独立又属于同一个更大的整体体验。 − 研究还得出几个重要推论： − *感质同时依赖于系统的机制（连接结构）和当前状态（活动模式）；+ + + + + + − *不同的系统（或同一系统的不同状态）可能产生不同的感质；+ + − *在某些简单情况下，不同系统可能生成同构的感质（如静息的AND门与兴奋的OR门），但在复杂系统中这几乎不可能；+ + − *沉默的单元与活跃的单元同样贡献于感质的形成，但被失活的单元则不再贡献；+ + − *学习可改变连接结构，从而使感质分化更细，对应更丰富的体验。+ +
更新IIT2.0
== IIT2.0 ==
== IIT2.0 ==
IIT 2.0 是整合信息理论的第二个版本，核心是把意识的 “质” 数学化为高维 Q 空间中的几何形状（感质形状）：它在 IIT 1.0 的基础上，将适配场景从平稳系统拓展到离散动态系统，用最小信息分割量化系统的整合信息 Φ，并通过q 箭头的纠缠度 γ定义子机制间的信息关系，最终这些信息关系的集合会在 Q 空间中形成唯一的几何结构 —— 这个结构就是意识体验 “质” 的数学表征，结构的复杂度对应体验的丰富度。
=== 单点有效信息 ===
=== 可能性分布（repertorie） ===
它是描述系统可能先前状态的概率分布（而非单纯的状态集合），是后续信息量化计算的核心基础。
==== 先验 Repertoire ====
==== 先验概率分布（Prior Repertoire） ====
在完全无知的情况下，系统所有可能初始状态的分布，在离散的马尔科夫动力系统中通常是均匀分布，同时也是最大熵分布。例如 n 个二元元素的系统有
[math]\displaystyle { 2^n }[/math]种初始状态，每种概率相等。
=== 最小信息分区（MIP）===
==== 后验概率分布（Posterior Repertoire） ====
给定系统机制与当前状态 [math]\displaystyle { x_1 }[/math] 后，筛选出的 “能通过该因果机制产生当前状态 [math]\displaystyle { x_1 }[/math] 的先前状态”，由系统内在因果规则唯一确定。反映系统通过因果机制对 “先前状态可能性” 的约束能力，分布的非均匀性直接体现信息的产生 —— 约束越强，分布越集中，不确定性越低。
===信息几何===
=== 单点有效信息（Elementary Effective Information, ei） ===
[[信息几何学]]（Information Geometry）是一个交叉学科领域，它结合了[[几何学]]和[[信息论]]，旨在通过几何工具来理解信息和统计分布的性质。该学科使用流形和度量张量等几何学概念来分析概率分布、信息量、数据模型和统计推断的几何结构。
<nowiki>由 Repertoire（可能性分布）分为两类：先验 Repertoire（[math]\displaystyle { p_{\text {max}} (X_0) }[/math]）和后验 Repertoire（[math]\displaystyle { p (X_0 \to x_1) }[/math]），单点有效信息（ei）的定义则基于此，定义为系统从先验概率分布（最大熵分布）过渡到后验分布（通过因果机制确定的分布）时所减少的不确定性，也通过 “系统机制与当前状态所限定的过往状态实际分布” 相对 “所有可能状态均匀分布（最大无知）” 的 KL 散度计算。 公式：</nowiki>
<nowiki>[math]\displaystyle { ei (X_0 \to x_1)== H\left[ X_0(\text{mech}, x_1) \parallel X_0(\max H) \right]=H (p_{\text {max}} (X_0)) - H (p (X_0 \to x_1)) }[/math]</nowiki>
下图展示了3个AND门系统，先验概率分布含 8 种状态，熵 = 3 比特；仅 1 种初始状态能导致[math]\displaystyle { x_1 =001 }[/math]，后验概率分布熵 = 0。单点有效信息根据公式计算为3比特。
[[文件:图4.1 3 个 AND 门系统.jpg|无|缩略图|600x600像素|图4.1 3 个 AND 门系统.jpg]]
=== 最小信息分区（Minimum Information Partition，MIP）===
同样要求在 IIT2.0 中，最小信息划分（MIP）是量化系统信息整合性的核心概念，其含义为系统所有可能分割中，“标准化跨分割有效信息” 最小的分割；若存在多个分割的标准化值相同，则进一步选择 “未标准化跨分割有效信息最低” 的分割作为 MIP。MIP 的本质逻辑是：通过寻找 “对系统整体信息整合破坏最弱的分割”，间接反推系统作为 “不可还原整体” 的信息整合强度 —— 分割后的 “标准化跨分割有效信息” 越小，意味着分割对系统整合性的破坏越轻微，系统本身的整合能力就越强；反之，若该值越大，则系统越容易被分割拆解，整合性越弱。
与 IIT1.0 版本中的最小信息二分（MIB）概念相比，此处的 MIP 概念不限于将研究的系统二分，而是可将系统分割为 k 份（k>=2），以及此处采用的单点有效信息（ei）作为衡量指标。最小信息划分数学表达式为
<nowiki>[math]\displaystyle { P_{\text {MIP}} = \arg\min_{P} \left { \frac {ei (X_0 \to x_1 / P)}{N_P} \right} }[/math]</nowiki>
其中 [math]\displaystyle { ei (X_0 \to x_1 / P) }[/math]，是 “分割 P 下的跨分割有效信息”，本质是通过 KL 散度（[math]\displaystyle { H [\cdot \parallel \cdot] }[/math]）衡量 “系统整体后验状态分布库” 与 “分割后各部分后验分布乘积” 的信息差异，该差异直接反映了分割对系统整体信息的破坏程度。其公式为：[math]\displaystyle { ei (X_0 \to x_1 / P) = H\left [ p (X_0 \to x_1) \parallel \prod_{M_k \in P} p (M_0^k \to \mu_1^k) \right] }[/math]
[math]\displaystyle { N_P }[/math] 是 “标准化系数”，用于消除分割尺寸偏差，公式为
<nowiki>[math]\displaystyle { N_P = (m - 1) \cdot \min_{k} \left { H_{\text {max}}(M_0^k) \right} }[/math]，m 为分割的部分数量，[math]\displaystyle { H_{\text {max}}(M_0^k) }[/math] 为部分的最大先验熵。</nowiki>
找到 MIP 后，IIT2.0 将整合信息 Φ 直接定义为该分割下的跨分割有效信息，即
<nowiki>[math]\displaystyle { \phi (x_1) = ei (X_0 \to x_1 / P_{\text {MIP}}) }[/math]。这一关联的逻辑闭环在于：MIP 是 “破坏系统整合最弱的分割”，其对应的 ei 值恰好量化了 “系统作为整体，比‘最弱分割后的独立部分’多产生的信息”—— 这部分无法被分割后的部分独立解释的信息，正是系统的核心整合信息。若 Φ=0，说明分割后的部分独立工作即可完全解释系统整体信息，系统无实质整合性；若 Φ>0，则表明系统是不可还原的整体，Φ 值越大，系统的整合能力越强。</nowiki>
==== 意识的“质” ====
==== 意识的“质” ====
David Balduzzi 和 Giulio Tononi 于 2009 年在整合信息理论（Integrated Information Theory, IIT） 的基础上，提出了一个用以数学化（qualia）的几何框架。核心主张是：意识的“质”并非神秘不可言说，而是对应于高维“感质空间（Q空间）”中的一个具体几何形状，该形状由系统中所有信息关系的集合唯一确定。在论文【】中指出，意识研究面临两大问题：意识的“量”（level of consciousness）与“质”（quality of experience）。IIT 提出，意识的量由整合信息（Φ） 度量，即一个系统作为一个整体所产生的、超越其各部分独立产生的信息量。而在描述意识体验的几何框架中重点在于阐述意识的质——即不同体验（如看到红色、听到声音）之间的区别如何通过信息关系的结构来刻画。
David Balduzzi 和 Giulio Tononi 于 2009 年在整合信息理论（Integrated Information Theory, IIT） 的基础上，提出了一个用以数学化（qualia）的几何框架。核心主张是：意识的“质”并非神秘不可言说，而是对应于高维“感质空间（Q空间）”中的一个具体几何形状，该形状由系统中所有信息关系的集合唯一确定。在论文【】中指出，意识研究面临两大问题：意识的“量”（level of consciousness）与“质”（quality of experience）。IIT 提出，意识的量由整合信息（Φ） 度量，即一个系统作为一个整体所产生的、超越其各部分独立产生的信息量。而在描述意识体验的几何框架中重点在于阐述意识的质——即不同体验（如看到红色、听到声音）之间的区别如何通过信息关系的结构来刻画。
所有这样的点和箭头共同构成一个高维几何形状，称为 “感质（quale）” ，它完全且唯一地规定了当前意识体验的质量。
所有这样的点和箭头共同构成一个高维几何形状，称为 “感质（quale）” ，它完全且唯一地规定了当前意识体验的质量。
下图展示 IIT 2.0 中 4 个二值单元构成的全连接系统对应 16 维 Q 空间，图 A 呈现该系统某子机制的实际分布（1.1 比特）作为感质形状的基础信息单元，图 B 则将各子机制的实际分布（以点表示，标注信息强度）通过代表信息关系的q-arrow连接，形成 Q 空间中唯一的几何结构（感质形状），其复杂度对应意识体验的丰富度，完整演示了从 4 单元系统到意识 “质” 的数学表征的构建流程。
[[文件:整合信息论图7.png|无|缩略图|600x600像素|如何从一个由4个单元构成的系统及其活动模式构建出对应的感质形状]]
[[文件:整合信息论图7.png|无|缩略图|600x600像素|如何从一个由4个单元构成的系统及其活动模式构建出对应的感质形状]]
=== 纠缠（Entanglement） ===
纠缠度是量化子机制间信息关系不可还原性的关键指标，核心衡量 子机制对应的子 q - 箭头联合生成的信息，能否还原为各子 q - 箭头独立信息之和，用符号γ表示。这一指标直接反映子机制间是否存在实质性因果交互，是判断信息关系协同效应的核心依据。γ是子机制组合后的整体信息分布与拆分后各子机制独立信息分布的乘积之间的相对熵，[math]\displaystyle \gamma\left(X_0\left[m,x_1\right] \to X_0\left[m \cup r,x_1\right]\right) = H\left[ X_0\left(m \cup r,x_1\right) \Bigg\| \prod_{M^k \in \text{MIP}_r} M^0\left(m \cup r^k,x_1\right) \right][/math]
当 γ>0 时，子机制间的信息关系不可分解，存在明显纠缠效应。此时子 q - 箭头联合生成的信息具有 “1+1>2” 的协同特性，整体信息大于各部分独立信息之和，这种协同效应的根源是子机制间的实质性因果依赖 —— 子机制彼此交互形成新的信息约束，无法通过单独分析各子机制的独立信息推导整体关系。
当 γ=0 时，子机制间的信息关系可完全分解，不存在纠缠效应。此时子 q - 箭头的信息能够独立叠加，无额外协同作用，整体信息恰好等于各部分独立信息之和，本质是子机制间无实质性因果依赖，联合后的信息关系未产生新约束，可通过各子机制独立信息库的乘积完全还原。
==== 概念（concepts） ====
概念是 不可分割的信息关系—— 即 γ>0 的 q-arrow。它是系统通过子机制实现的 有上下文依赖的判别能力，无法拆分为更简单的独立信息单元。
如下图，AB 所示的系统，元素 1、2 通过连接\(c^{13}\)、\(c^{23}\)指向元素 3，构成沉默 AND 门，其逻辑规则要求双输入需同时沉默才能使输出元素 3 沉默，子机制间的因果依赖让联合实际库（子机制协同作用下的状态分布）与独立子库乘积（单独子机制状态分布的乘积）无法重合，最终对应 γ>0 的纠缠状态；CD 所示的子机制组合，联合后未形成新的状态约束，各子机制的信息作用相互独立，无需协同即可解释整体信息，其联合实际库与独立子库乘积完全重合，对应 γ=0 bits 的无纠缠状态。
[[文件:纠缠.png|无|缩略图|400x400像素|沉默AND门产生纠缠，NOISY COPY 系统信息独立]]
==== 模式（mode) ====
'''模态式'''是由大量高纠缠度（γ>0）的'''概念（不可分割信息关系）''' 层级化聚合形成的'''感质空间（Q）子形状'''，对应意识体验的功能性分类（如视觉、听觉、触觉等）；其核心特征是局部最大密集纠缠—— 作为感质空间中比周围 q - 箭头更密集纠缠的子集合，既不被包含在更密集纠缠的更大集合中，又类比于生成整合信息\(\Phi>0\)的复合体（complex）。不同模式对应视觉、听觉等不同功能模态，既相对独立又共同构成整体意识体验，如看电影时的视觉与听觉模态。
'''在图4.4中具象化了 “模态（modes）” 概念'''，通过一个包含 “AND 门” 与 “COPY 门” 的混合系统，直观呈现模式是最大密集纠缠的 q-arrow 集群这一核心定义，同时揭示模态与系统连接性、纠缠分布的关联。图4.4AB中用粉色区域标记 {c¹³,c²³} 对应的 q-arrow 集群，该区域的纠缠密度（γ/ 最大熵）显著高于周围（尤其是 c³² 对应的灰色区域），形成一个独立的子形状—— 这一子形状即文档定义的模式，因为它是局部最大密集纠缠的集合，且不被任何更大的、纠缠密度更高的 q-arrow 集群包含。而图4.4AC中C32用灰色区域表示，q - 箭头无密集纠缠，无法形成独立的子形状 ，未产生纠缠。
[[文件:局部截取 20251109 152740.png|无|缩略图|600x600像素|模式]]
==== 全模型与分割模型 ====
==== 全模型与分割模型 ====