5,443
个编辑
更改
→熵的计算
==== 熵的计算 ====
==== 熵的计算 ====
我们以一个包含 n个元素的孤立神经系统 X为例。该系统活动可由一个高斯平稳多元随机过程描述，并仅关注其内在属性，忽略来自环境的外部输入。这些元素可视为神经元组，其活动变量表示各组在数百毫秒内的放电率，彼此间的相互作用通过连接矩阵 CON(X)介导。系统动力学可表述为：
我们以一个包含 n个元素的孤立神经系统 X为例。该系统活动可由一个高斯平稳多元随机过程描述，并仅关注其内在属性，忽略来自环境的外部输入。这些元素可视为神经元组，其活动变量表示各组在数百毫秒内的放电率，彼此间的相互作用通过连接矩阵 CON(X)介导。系统动力学可表述为：
<math>
<math>
X_t=X_{t−1}⋅CON(X)
X_t=X_{t−1}⋅CON(X)
</math>
</math>
该多元过程的联合概率密度函数可通过熵（H）与互信息（MI）进行表征。
该多元过程的联合概率密度函数可通过熵（H）与互信息（MI）进行表征。
对于该连续马尔可夫动力系统，熵的计算公式为：
<math>
H(X)=21ln[(2πe)dim(X)⋅∣COV(X)∣]
</math>
其中协方差矩阵 COV(X)来源于：
<math>
COV(X)=QTQ,Q=(I−CON(X))−1
</math>
这里 I为单位矩阵，CON(X)为系统连接矩阵。
=== 不同版本的差异 ===
=== 不同版本的差异 ===