5,443
个编辑
更改
跳到导航
跳到搜索
第216行：
第216行： − + − 信息几何是一门融合统计学与微分几何的交叉学科，其核心是将概率分布的集合视为几何空间（即统计流形），通过流形、坐标、距离等几何工具，分析概率分布的性质及相互关系，尤其用于量化因果动力系统中多终端的信息整合量。+ − − ==== 统计流形 ==== − 统计流形是由一族概率分布构成的光滑几何结构，每个概率分布对应流形上的一个点。全模型M的所有联合概率分布<math>p(x,y)</math>（x和y分别为系统当前与下一状态向量）构成统计流形，分布间的差异通过Kullback-Leibler（KL）散度衡量[]。 − − ==== 指数族 ==== − 统计流形中一类重要的概率分布，其概率密度函数可表示为指数形式。全模型M的二元分布（<math>x_i, y_i</math>取 0 或 1）属于指数族，形式为：<math>p(x,y) = \exp\left\{ \sum \theta_i^X x_i + \sum \theta_j^Y y_j + \sum \theta_{ij}^{XX} x_i x_j + \sum \theta_{ij}^{YY} y_i y_j + \sum \theta_{ij}^{XY} x_i y_j + h(x,y) - \psi \right\}</math> − − 其中<math>\theta</math>为参数，<math>\psi</math>为归一化因子，其分布集合形成对偶平坦流形[]。 − − ==== 对偶坐标 ==== − 对偶平坦流形上的一对互补坐标系统：e 坐标（<math>\theta</math>坐标）：基于分布的自然参数，直接定义概率分布的数学形式；m 坐标（<math>\eta</math>坐标）：基于随机变量函数的期望（如<math>\eta_{ij}^{XY}=E[x_i y_j]</math>），描述分布的统计特性。 − 二者通过 Legendre 变换相互关联，实现参数与统计特性的双向映射。
→信息几何学
能通过系统因果交互导致当前状态<math>x_1</math>的初始状态分布，需通过 “扰动实验” 确定：强制系统进入每种先验状态，筛选出可产生<math>x_1</math>的状态（例如 3 个 AND 门系统，仅 1 种初始状态能导致<math>x_1=001</math>，后验 Repertoire 熵 = 0）。
能通过系统因果交互导致当前状态<math>x_1</math>的初始状态分布，需通过 “扰动实验” 确定：强制系统进入每种先验状态，筛选出可产生<math>x_1</math>的状态（例如 3 个 AND 门系统，仅 1 种初始状态能导致<math>x_1=001</math>，后验 Repertoire 熵 = 0）。
===信息几何学===
===几何整合信息===
[信息几何学]（Information Geometry）是一个交叉学科领域，它结合了 几何学 和 信息论，旨在通过几何工具来理解信息和统计分布的性质。该学科使用 流形 和 度量张量 等几何学概念来分析 概率分布、信息量、数据模型 和统计推断的几何结构。
==== KL 散度 ====
==== KL 散度 ====