更改

添加106字节 、 2024年8月11日 (星期日)
第13行: 第13行:     
==标准化流技术==
 
==标准化流技术==
标准化流(Normalizing Flows,NF)是一类通用的方法,它通过构造一种可逆的变换,将任意的数据分布<math>p_x (\mathbf{x}) </math>变换到一个简单的基础分布<math>p_z (\mathbf{z})</math>,因为变换是可逆的,所以<math>\mathbf{x}</math>和<math>\mathbf{z}</math>是可以任意等价变换的。之所以叫Normalizing Flows,是因为它包含两个概念:
+
[[标准化流]](Normalizing Flows,NF)是一类通用的方法,它通过构造一种可逆的变换,将任意的数据分布<math>p_x (\mathbf{x}) </math>变换到一个简单的基础分布<math>p_z (\mathbf{z})</math>,因为变换是可逆的,所以<math>\mathbf{x}</math>和<math>\mathbf{z}</math>是可以任意等价变换的。之所以叫Normalizing Flows,是因为它包含两个概念:
   −
*标准化(normalize):它可以将任意的复杂数据分布进行标准化,类似于数据预处理中常用的数据0均值1方差的标准化,但是要精细很多;
+
*标准化(normalize):它可以将任意的复杂数据分布进行标准化为一个标准的分布(例如正态分布),类似于数据预处理中常用的数据0均值1方差的标准化,但是要精细很多;
 
*流(Flows):数据的分布可以非常的复杂,需要多个同样的操作组合来达到标准化的效果,这个组合的过程称为流。
 
*流(Flows):数据的分布可以非常的复杂,需要多个同样的操作组合来达到标准化的效果,这个组合的过程称为流。
   −
需要说明的是,因为分布间是可以相互变换的,因此对基础分布没有特定的限制,不失一般性的,可以使用标准分布(单高斯)分布作为基础分布。另外,在本文中,我们回避使用先验分布(prior distribution)来称呼这个基础分布,是因为这里的变量<math>\mathbf{z}</math>和其他场合下的隐变量不同,在标准化流模型中,一旦<math>\mathbf{x}</math>确定了,<math>\mathbf{z}</math>也随之确定下来,不存在随机性,也没有后验概率这一说法,所以不能称其为隐变量。
+
需要说明的是,因为分布间是可以相互变换的,因此对基础分布没有特定的限制,不失一般性,可以使用标准分布(单高斯)分布作为基础分布。另外,在本文中,我们回避使用先验分布(prior distribution)来称呼这个基础分布,是因为这里的变量<math>\mathbf{z}</math>和其他场合下的隐变量不同,在标准化流模型中,一旦<math>\mathbf{x}</math>确定了,<math>\mathbf{z}</math>也随之确定下来,不存在随机性,也没有后验概率这一说法,所以不能称其为隐变量。
   −
王磊、尤亦庄等由标准化流技术提出了神经重整化群技术,引入了神经重整化群,作为设计相互作用场论通用全息映射的通用方法。给定一个场论作用,训练一个基于流的分层深度生成神经网络,从不相干的体场波动中再现边界场集合。这样,神经网络就能开发出最优的重整化群变换。标准化流模型和NIS在某些方面具有相似性。它们都致力于使用可逆神经网络(INN)将复杂的微观状态<math>s</math>映射到更简单的宏观状态<math>S</math>,即粗粒化过程。在这种粗粒化之后,二者都试图最大化由此产生的信息效能<math>L(s,S)</math>,从而提取出系统中重要的宏观状态特征。这种方法可以帮助理解复杂系统中的涌现现象和因果关系,在数据建模和分析中有较大应用潜力。
+
王磊、尤亦庄等由标准化流技术提出了使用神经网络来对数据进行[[重整化]]的技术,并提出了[[神经重整化群]]的技术方案,并将其应用到图像生成、[[量子场论]]和宇宙学之中。给定一组图像,或一个场论的模拟数据,训练一个基于流的分层深度生成神经网络模型,这样,神经网络就能开发出最优的[[重整化群]]变换。[[标准化流]]模型和NIS在某些方面具有相似性。它们都致力于使用[[可逆神经网络]](INN)将复杂的微观状态<math>s</math>映射到更简单的宏观状态<math>S</math>,即粗粒化过程。在这种粗粒化之后,二者都试图通过优化某损失函数<math>L(s,S)</math>,从而提取出系统中重要的宏观状态特征。这种方法可以帮助理解复杂系统中的涌现现象,在数据建模和分析中有较大应用潜力。
 +
 
 +
==可逆神经网络技术==
    
==数学框架:最大化EI==
 
==数学框架:最大化EI==
727

个编辑