更改
跳到导航
跳到搜索
←上一编辑
下一编辑→
整合信息论
(查看源代码)
2025年8月21日 (四) 15:13的版本
添加99字节
、
2025年8月21日 (四) 15:13
→核心概念
第261行:
第261行:
指数族
指数族
−
统计流形中一类重要的概率分布,其概率密度函数可表示为指数形式。文中全模型M的二元分布(
\(
x_i, y_i
\)
取 0 或 1)属于指数族,形式为:
\(
p(x,y) = \exp\left\{ \sum \theta_i^X x_i + \sum \theta_j^Y y_j + \sum \theta_{ij}^{XX} x_i x_j + \sum \theta_{ij}^{YY} y_i y_j + \sum \theta_{ij}^{XY} x_i y_j + h(x,y) - \psi \right\}
\)
+
统计流形中一类重要的概率分布,其概率密度函数可表示为指数形式。文中全模型M的二元分布(
<math>
x_i, y_i
</math>
取 0 或 1)属于指数族,形式为:
<math>
p(x,y) = \exp\left\{ \sum \theta_i^X x_i + \sum \theta_j^Y y_j + \sum \theta_{ij}^{XX} x_i x_j + \sum \theta_{ij}^{YY} y_i y_j + \sum \theta_{ij}^{XY} x_i y_j + h(x,y) - \psi \right\}
</math>
−
其中
\(
\theta
\)
为参数,
\(
\psi
\)
为归一化因子,其分布集合形成对偶平坦流形。
+
其中
<math>
\theta
</math>
为参数,
<math>
\psi
</math>
为归一化因子,其分布集合形成对偶平坦流形。
对偶坐标
对偶坐标
−
对偶平坦流形上的一对互补坐标系统:e 坐标(
\(
\theta
\)
坐标):基于分布的自然参数,直接定义概率分布的数学形式;m 坐标(
\(
\eta
\)
坐标):基于随机变量函数的期望(如
\(
\eta_{ij}^{XY}=E[x_i y_j]
\)
),描述分布的统计特性。
+
对偶平坦流形上的一对互补坐标系统:e 坐标(
<math>
\theta
</math>
坐标):基于分布的自然参数,直接定义概率分布的数学形式;m 坐标(
<math>
\eta
</math>
坐标):基于随机变量函数的期望(如
<math>
\eta_{ij}^{XY}=E[x_i y_j]
</math>
),描述分布的统计特性。
二者通过 Legendre 变换相互关联,实现参数与统计特性的双向映射。
二者通过 Legendre 变换相互关联,实现参数与统计特性的双向映射。
KL 散度
KL 散度
−
用于量化两个概率分布差异的 “距离” 指标,是信息整合度量的核心定义依据:信息整合量
\(
\Phi
\)
被定义为原始分布
\(
p(x,y)
\)
与分割模型中最接近它的分布
\(
q(x,y)
\)
的最小 KL 散度,即
\(
\Phi = \min_{q} D_{KL}[p:q]
\)
。
+
用于量化两个概率分布差异的 “距离” 指标,是信息整合度量的核心定义依据:信息整合量
<math>
\Phi
</math>
被定义为原始分布
<math>
p(x,y)
</math>
与分割模型中最接近它的分布
<math>
q(x,y)
</math>
的最小 KL 散度,即
<math>
\Phi = \min_{q} D_{KL}[p:q]
</math>
。
===IIT3.0===
===IIT3.0===
相信未来
5,443
个编辑
导航菜单
个人工具
登录
名字空间
页面
讨论
变种
视图
阅读
查看源代码
查看历史
更多
搜索
导航
集智百科
集智主页
集智斑图
集智学园
最近更改
所有页面
捐赠我们
帮助
工具
特殊页面
可打印版本