更改

第789行: 第789行:  
遗传算法是一种受生物进化启发的全局优化算法,通过在每一步迭代过程中模拟[[自然选择]](选择适应度高的个体作为父代)、[[交叉]](通过父代基因重组生成子代)和[[变异]](以一定概率随机改变子代基因)等机制,在解空间中搜索最优解。
 
遗传算法是一种受生物进化启发的全局优化算法,通过在每一步迭代过程中模拟[[自然选择]](选择适应度高的个体作为父代)、[[交叉]](通过父代基因重组生成子代)和[[变异]](以一定概率随机改变子代基因)等机制,在解空间中搜索最优解。
   −
===梯度下降和深度学习===
+
===[[梯度下降]]和[[深度学习]]===
   −
我们也可以使用梯度下降,搭配图神经网络等深度学习方法来寻找最优划分。比如,在 Klein 和 Hoel 等人的论文<ref name=":19"/>,以及 Griebenow 等人<ref name=":Griebenow">Griebenow R, Klein B, Hoel E. Finding the right scale of a network: efficient identification of causal emergence through spectral clustering[J]. arXiv preprint arXiv:190807565, 2019.</ref>的文章中,输入原始网络和对应的邻接矩阵。把粗粒化方案写成一个分组矩阵,<math>M\in \mathbb{R}^{N×K}</math>,<math>K</math>表示分组的大小,其中矩阵里面的每个元素<math>m_{iμ}=Pr⁡(v_i\in v_{\mu})</math>,并将其参数化,这样就能把最终的粗粒化网络表达为分组矩阵与原始网络邻接矩阵的乘积,<math>M^T A M</math>,并进行归一化,由此计算 EI。在每一步中使用带动量的梯度下降方法优化 <math>M</math> ,优化目标是最大化宏观网络的有效信息EI。
+
我们也可以使用梯度下降,搭配[[图神经网络]]等深度学习方法来寻找最优划分。比如,在 Klein 和 [[Hoel]] 等人的论文<ref name=":19"/>,以及 Griebenow 等人<ref name=":Griebenow">Griebenow R, Klein B, Hoel E. Finding the right scale of a network: efficient identification of causal emergence through spectral clustering[J]. arXiv preprint arXiv:190807565, 2019.</ref>的文章中,输入原始网络和对应的[[邻接矩阵]]。把[[粗粒化方案]]写成一个[[分组矩阵]],<math>M\in \mathbb{R}^{N×K}</math>,<math>K</math>表示分组的大小,其中矩阵里面的每个元素<math>m_{iμ}=Pr⁡(v_i\in v_{\mu})</math>,并将其参数化,这样就能把最终的粗粒化网络表达为分组矩阵与原始网络邻接矩阵的乘积,<math>M^T A M</math>,并进行[[归一化]],由此计算 [[EI]]。在每一步中使用带动量的梯度下降方法优化 <math>M</math> ,优化目标是最大化宏观网络的[[有效信息]]EI。
   −
在上述逐层贪婪算法和谱分解方法的解并未达到最优的情况下,我们可以把它们作为初始解,再借助遗传算法和梯度下降等方法帮助跳出局部最优,从而找到新的全局更优解。
+
在上述逐层[[贪婪算法]]和[[谱分解]]方法的解并未达到最优的情况下,我们可以把它们作为初始解,再借助[[遗传算法]]和梯度下降等方法帮助跳出局部最优,从而找到新的全局更优解。
    
<br/>
 
<br/>