更改

跳到导航 跳到搜索
添加8字节 、 2026年9月11日 (星期五)
第250行: 第250行:  
== 在 [[NIS]]/[[NIS+]] 因果[[涌现]]框架中的应用 ==
 
== 在 [[NIS]]/[[NIS+]] 因果[[涌现]]框架中的应用 ==
 
​
 
​
−
在神经信息挤压器(Neural Information Squeezer,NIS)及其扩展 NIS+(Neural Information Squeezer Plus)中,RealNVP 的'''基础仿射耦合模块'''被用于构建[[可逆神经网络]](Invertible Neural Networks,INN)编码器——堆叠 3 层,<math>\mathbf{s}</math>、<math>\mathbf{t}</math> 为小型前馈网络——实现微观状态到宏观状态的可逆[[粗粒化]]。NIS 原文的表述本身即体现了范畴与实例的关系:"There are several ways to realize an invertible neural network ... we select RealNVP module ... to concretely implement the invertible computation."(实现可逆神经网络有多种方式,本文选择 RealNVP 模块来具体实现可逆计算。)<ref name="NIS2023">{{cite journal|author1=Zhang J.|author2=Liu K.|title=Neural Information Squeezer for Causal Emergence|journal=Entropy|year=2023|volume=25|issue=1|page=26}}</ref>需要指出,此处复用的是部件而非完整模型:不含多尺度架构与高斯基分布,也不以似然为训练目标;同类的部件级复用还有 RevNet 的[[可逆残差结构]]<ref name="RevNet2017" />与 HiNet 的图像隐藏网络<ref name="HiNet2021">{{cite conference|author1=Jing J.|author2=Deng X.|author3=Xu M.|author4=Wang J.|author5=Guan Z.|title=HiNet: Deep Image Hiding by Invertible Network|conference=International Conference on Computer Vision (ICCV)|year=2021}}</ref>。NIS 中的粗粒化[[策略]]被建模为两阶段过程:
+
在[[神经信息挤压器]](Neural Information Squeezer,NIS)及其扩展 [[NIS+]](Neural Information Squeezer Plus)中,RealNVP 的'''基础仿射耦合模块'''被用于构建[[可逆神经网络]](Invertible Neural Networks,INN)编码器——堆叠 3 层,<math>\mathbf{s}</math>、<math>\mathbf{t}</math> 为小型前馈网络——实现微观状态到宏观状态的可逆[[粗粒化]]。NIS 原文的表述本身即体现了范畴与实例的关系:"There are several ways to realize an invertible neural network ... we select RealNVP module ... to concretely implement the invertible computation."(实现可逆神经网络有多种方式,本文选择 RealNVP 模块来具体实现可逆计算。)<ref name="NIS2023">{{cite journal|author1=Zhang J.|author2=Liu K.|title=Neural Information Squeezer for Causal Emergence|journal=Entropy|year=2023|volume=25|issue=1|page=26}}</ref>需要指出,此处复用的是部件而非完整模型:不含多尺度架构与高斯基分布,也不以似然为训练目标;同类的部件级复用还有 RevNet 的[[可逆残差结构]]<ref name="RevNet2017" />与 HiNet 的图像隐藏网络<ref name="HiNet2021">{{cite conference|author1=Jing J.|author2=Deng X.|author3=Xu M.|author4=Wang J.|author5=Guan Z.|title=HiNet: Deep Image Hiding by Invertible Network|conference=International Conference on Computer Vision (ICCV)|year=2021}}</ref>。NIS 中的粗粒化[[策略]]被建模为两阶段过程:
 
​
 
​
 
# '''无损变换''':由 RealNVP 耦合层堆叠构成的 INN <math>\psi_\alpha: \mathbb{R}^p \to \mathbb{R}^p</math> 将微观状态 <math>\mathbf{x}_t</math> 映射到等维潜在空间 <math>\mathbf{x}'_t</math>。'''该阶段信息不丢失'''。
 
# '''无损变换''':由 RealNVP 耦合层堆叠构成的 INN <math>\psi_\alpha: \mathbb{R}^p \to \mathbb{R}^p</math> 将微观状态 <math>\mathbf{x}_t</math> 映射到等维潜在空间 <math>\mathbf{x}'_t</math>。'''该阶段信息不丢失'''。

导航菜单