5,443
个编辑
更改
跳到导航
跳到搜索
第210行：
第210行： + + + + + + + + + + + + + + + + + + + + 第253行：
第273行： − − ===== 核心概念 ===== − 统计流形 − − 统计流形是由一族概率分布构成的光滑几何结构，每个概率分布对应流形上的一个点。在文中，全模型M的所有联合概率分布<math>p(x,y)</math>（x和y分别为系统当前与下一状态向量）构成统计流形，分布间的差异通过Kullback-Leibler（KL）散度衡量。 − − 指数族 − − 统计流形中一类重要的概率分布，其概率密度函数可表示为指数形式。文中全模型M的二元分布（<math>x_i, y_i</math>取 0 或 1）属于指数族，形式为：<math>p(x,y) = \exp\left\{ \sum \theta_i^X x_i + \sum \theta_j^Y y_j + \sum \theta_{ij}^{XX} x_i x_j + \sum \theta_{ij}^{YY} y_i y_j + \sum \theta_{ij}^{XY} x_i y_j + h(x,y) - \psi \right\}</math> − − 其中<math>\theta</math>为参数，<math>\psi</math>为归一化因子，其分布集合形成对偶平坦流形。 − − 对偶坐标 − − 对偶平坦流形上的一对互补坐标系统：e 坐标（<math>\theta</math>坐标）：基于分布的自然参数，直接定义概率分布的数学形式；m 坐标（<math>\eta</math>坐标）：基于随机变量函数的期望（如<math>\eta_{ij}^{XY}=E[x_i y_j]</math>），描述分布的统计特性。 − 二者通过 Legendre 变换相互关联，实现参数与统计特性的双向映射。 − − KL 散度 − − 用于量化两个概率分布差异的 “距离” 指标，是信息整合度量的核心定义依据：信息整合量<math>\Phi</math>被定义为原始分布<math>p(x,y)</math>与分割模型中最接近它的分布<math>q(x,y)</math>的最小 KL 散度，即<math>\Phi = \min_{q} D_{KL}[p:q]</math>。
→信息几何学
====信息几何学====
====信息几何学====
信息几何是一门融合统计学与微分几何的交叉学科，其核心是将概率分布的集合视为几何空间（即统计流形），通过流形、坐标、距离等几何工具，分析概率分布的性质及相互关系，尤其用于量化因果动力系统中多终端的信息整合量。
信息几何是一门融合统计学与微分几何的交叉学科，其核心是将概率分布的集合视为几何空间（即统计流形），通过流形、坐标、距离等几何工具，分析概率分布的性质及相互关系，尤其用于量化因果动力系统中多终端的信息整合量。
===== 核心概念 =====
统计流形
统计流形是由一族概率分布构成的光滑几何结构，每个概率分布对应流形上的一个点。在文中，全模型M的所有联合概率分布<math>p(x,y)</math>（x和y分别为系统当前与下一状态向量）构成统计流形，分布间的差异通过Kullback-Leibler（KL）散度衡量。
指数族
统计流形中一类重要的概率分布，其概率密度函数可表示为指数形式。文中全模型M的二元分布（<math>x_i, y_i</math>取 0 或 1）属于指数族，形式为：<math>p(x,y) = \exp\left\{ \sum \theta_i^X x_i + \sum \theta_j^Y y_j + \sum \theta_{ij}^{XX} x_i x_j + \sum \theta_{ij}^{YY} y_i y_j + \sum \theta_{ij}^{XY} x_i y_j + h(x,y) - \psi \right\}</math>
其中<math>\theta</math>为参数，<math>\psi</math>为归一化因子，其分布集合形成对偶平坦流形。
对偶坐标
对偶平坦流形上的一对互补坐标系统：e 坐标（<math>\theta</math>坐标）：基于分布的自然参数，直接定义概率分布的数学形式；m 坐标（<math>\eta</math>坐标）：基于随机变量函数的期望（如<math>\eta_{ij}^{XY}=E[x_i y_j]</math>），描述分布的统计特性。
二者通过 Legendre 变换相互关联，实现参数与统计特性的双向映射。
KL 散度
用于量化两个概率分布差异的 “距离” 指标，是信息整合度量的核心定义依据：信息整合量<math>\Phi</math>被定义为原始分布<math>p(x,y)</math>与分割模型中最接近它的分布<math>q(x,y)</math>的最小 KL 散度，即<math>\Phi = \min_{q} D_{KL}[p:q]</math>。
===== 全模型与分割模型 =====
===== 全模型与分割模型 =====
子流形包含：\(\mathcal{M}_{DS} \supset \mathcal{M}_{FS}\)，\(\mathcal{M}_{DS} \supset \mathcal{M}_{MD}\)，\(\mathcal{M}_G \supset \mathcal{M}_{FS}\)；
子流形包含：\(\mathcal{M}_{DS} \supset \mathcal{M}_{FS}\)，\(\mathcal{M}_{DS} \supset \mathcal{M}_{MD}\)，\(\mathcal{M}_G \supset \mathcal{M}_{FS}\)；
度量大小：由 KL 散度的性质，子流形范围越大，对应度量越小，即\(\Phi_{FS} \geq \Phi_{DS}\)，\(\Phi_{MD} \geq \Phi_{DS}\)，\(\Phi_{FS} \geq \Phi_G\)。
度量大小：由 KL 散度的性质，子流形范围越大，对应度量越小，即\(\Phi_{FS} \geq \Phi_{DS}\)，\(\Phi_{MD} \geq \Phi_{DS}\)，\(\Phi_{FS} \geq \Phi_G\)。
===IIT3.0===
===IIT3.0===