5,443
个编辑
更改
跳到导航
跳到搜索
第251行：
第251行： − # 子流形包含：\(\mathcal{M}_{DS} \supset \mathcal{M}_{FS}\)，\(\mathcal{M}_{DS} \supset \mathcal{M}_{MD}\)，\(\mathcal{M}_G \supset \mathcal{M}_{FS}\)；+ − # 度量大小：由 KL 散度的性质，子流形范围越大，对应度量越小，即\(\Phi_{FS} \geq \Phi_{DS}\)，\(\Phi_{MD} \geq \Phi_{DS}\)，\(\Phi_{FS} \geq \Phi_G\)。+ + + + + + + + + + + + + + + + + + + +
→信息几何学
|}
|}
子流形包含：\(\mathcal{M}_{DS} \supset \mathcal{M}_{FS}\)，\(\mathcal{M}_{DS} \supset \mathcal{M}_{MD}\)，\(\mathcal{M}_G \supset \mathcal{M}_{FS}\)；
度量大小：由 KL 散度的性质，子流形范围越大，对应度量越小，即\(\Phi_{FS} \geq \Phi_{DS}\)，\(\Phi_{MD} \geq \Phi_{DS}\)，\(\Phi_{FS} \geq \Phi_G\)。
===== 核心概念 =====
统计流形
统计流形是由一族概率分布构成的光滑几何结构，每个概率分布对应流形上的一个点。在文中，全模型M的所有联合概率分布\(p(x,y)\)（x和y分别为系统当前与下一状态向量）构成统计流形，分布间的差异通过Kullback-Leibler（KL）散度衡量。
指数族
统计流形中一类重要的概率分布，其概率密度函数可表示为指数形式。文中全模型M的二元分布（\(x_i, y_i\)取 0 或 1）属于指数族，形式为：\(p(x,y) = \exp\left\{ \sum \theta_i^X x_i + \sum \theta_j^Y y_j + \sum \theta_{ij}^{XX} x_i x_j + \sum \theta_{ij}^{YY} y_i y_j + \sum \theta_{ij}^{XY} x_i y_j + h(x,y) - \psi \right\}\)
其中\(\theta\)为参数，\(\psi\)为归一化因子，其分布集合形成对偶平坦流形。
对偶坐标
对偶平坦流形上的一对互补坐标系统：e 坐标（\(\theta\)坐标）：基于分布的自然参数，直接定义概率分布的数学形式；m 坐标（\(\eta\)坐标）：基于随机变量函数的期望（如\(\eta_{ij}^{XY}=E[x_i y_j]\)），描述分布的统计特性。
二者通过 Legendre 变换相互关联，实现参数与统计特性的双向映射。
KL 散度
用于量化两个概率分布差异的 “距离” 指标，是信息整合度量的核心定义依据：信息整合量\(\Phi\)被定义为原始分布\(p(x,y)\)与分割模型中最接近它的分布\(q(x,y)\)的最小 KL 散度，即\(\Phi = \min_{q} D_{KL}[p:q]\)。
===IIT3.0===
===IIT3.0===