50
个编辑
更改
跳到导航
跳到搜索
小第30行：
第30行： − + 第46行：
第46行： − + 第203行：
第203行： − + 第215行：
第215行： − + 第227行：
第227行： − + 第238行：
第238行： − +
更改图片大小
= 算法框架 =
= 算法框架 =
[[文件:Realnvp multiscale.svg|缩略图|RealNVP 多尺度分层架构示意图。批量归一化（Batch Normalization，BN）为图中归一化操作的简写。|替代=|552x552px]]
[[文件:Realnvp multiscale.svg|缩略图|RealNVP 多尺度分层架构示意图。批量归一化（Batch Normalization，BN）为图中归一化操作的简写。|替代=|848x848px]]
RealNVP 把若干可逆模块按顺序堆叠，形成从数据空间到潜在空间的完整映射。其网络主体由四个功能模块组成：'''仿射耦合层'''（affine coupling layer）负责可逆的特征变换，每个耦合层输出后接'''批量归一化'''（batch normalization）以稳定训练；'''压缩'''（squeeze）负责降低空间分辨率并把信息重排到通道；'''变量分解'''（factor out）负责在每个尺度末尾抽取一部分变量作为潜在编码。其中，仿射耦合层通过空间棋盘掩码（checkerboard masking）与通道级掩码（channel-wise masking）实现，二者交替使用。
RealNVP 把若干可逆模块按顺序堆叠，形成从数据空间到潜在空间的完整映射。其网络主体由四个功能模块组成：'''仿射耦合层'''（affine coupling layer）负责可逆的特征变换，每个耦合层输出后接'''批量归一化'''（batch normalization）以稳定训练；'''压缩'''（squeeze）负责降低空间分辨率并把信息重排到通道；'''变量分解'''（factor out）负责在每个尺度末尾抽取一部分变量作为潜在编码。其中，仿射耦合层通过空间棋盘掩码（checkerboard masking）与通道级掩码（channel-wise masking）实现，二者交替使用。
== [[仿射耦合层]]：可逆的"条件变形" ==
== [[仿射耦合层]]：可逆的"条件变形" ==
图 2 给出了仿射耦合层的前向流程。图中的耦合层块即仿射耦合层，它是 RealNVP 的基本可逆变换单元。[[文件:仿射耦合.png|缩略图|仿射耦合层示意图：正向（从左到右）将输入分块并变换，反向（从右到左）逐块还原。|替代=|344x344像素]]{{NumBlk|:|
图 2 给出了仿射耦合层的前向流程。图中的耦合层块即仿射耦合层，它是 RealNVP 的基本可逆变换单元。[[文件:仿射耦合.png|缩略图|仿射耦合层示意图：正向（从左到右）将输入分块并变换，反向（从右到左）逐块还原。|替代=|626x626px]]{{NumBlk|:|
<math>
<math>
\begin{cases}
\begin{cases}
在 CelebA 人脸生成任务中，RealNVP 能够生成全局连贯、五官清晰的人脸样本（图 5）。与变分自编码器（Variational Autoencoder，VAE）相比，RealNVP 不依赖固定的重建损失（如均方误差（Mean Squared Error，MSE）），因此不会过度平滑高频细节；与 PixelRNN 等自回归模型相比，RealNVP 的采样在维度上完全并行，速度更快。
在 CelebA 人脸生成任务中，RealNVP 能够生成全局连贯、五官清晰的人脸样本（图 5）。与变分自编码器（Variational Autoencoder，VAE）相比，RealNVP 不依赖固定的重建损失（如均方误差（Mean Squared Error，MSE）），因此不会过度平滑高频细节；与 PixelRNN 等自回归模型相比，RealNVP 的采样在维度上完全并行，速度更快。
[[文件:realnvp_celeba_generation.png|缩略图|RealNVP 在 CelebA 上生成的人脸样本。引自 Dinh et al., 2017。|替代=|400x400px]]
[[文件:realnvp_celeba_generation.png|缩略图|RealNVP 在 CelebA 上生成的人脸样本。引自 Dinh et al., 2017。|400x400px|链接=Special:FilePath/Realnvp_celeba_generation.png]]
== 潜在空间插值与语义操控 ==
== 潜在空间插值与语义操控 ==
解码后能看到姿态、表情、背景等属性的平滑过渡，而非简单的像素混合（图 6）。在类条件模型中，沿着特定方向移动潜在编码可系统性地操控性别、眼镜、微笑等属性，表明该空间具有类似词向量的线性语义结构。
解码后能看到姿态、表情、背景等属性的平滑过渡，而非简单的像素混合（图 6）。在类条件模型中，沿着特定方向移动潜在编码可系统性地操控性别、眼镜、微笑等属性，表明该空间具有类似词向量的线性语义结构。
[[文件:realnvp_celeba_interpolation.png|缩略图|RealNVP 在 CelebA 潜在空间中做球面插值的结果：上半部分为四个角点的生成样本，下半部分为沿球面路径连续插值得到的人脸变化。引自 Dinh et al., 2017。|替代=|400x400px]]
[[文件:realnvp_celeba_interpolation.png|缩略图|RealNVP 在 CelebA 潜在空间中做球面插值的结果：上半部分为四个角点的生成样本，下半部分为沿球面路径连续插值得到的人脸变化。引自 Dinh et al., 2017。|400x400px|链接=Special:FilePath/Realnvp_celeba_interpolation.png]]
== 重建设置中的推断 ==
== 重建设置中的推断 ==
由于模型学习了全数据分布的精确密度，它能对任意形状的掩码产生合理的语义补全，而非仅记忆特定训练掩码。在 LSUN 卧室数据集上，RealNVP 对缺失区域（红框）的补全结果在语义和视觉上均保持合理（图 7）。
由于模型学习了全数据分布的精确密度，它能对任意形状的掩码产生合理的语义补全，而非仅记忆特定训练掩码。在 LSUN 卧室数据集上，RealNVP 对缺失区域（红框）的补全结果在语义和视觉上均保持合理（图 7）。
[[文件:realnvp_lsun_inpainting.png|缩略图|RealNVP 在 LSUN 卧室数据集上的图像修复结果：红框标出被遮挡的原始区域，模型仅根据剩余像素和全分布密度完成补全。引自 Dinh et al., 2017。|替代=|400x400px]]
[[文件:realnvp_lsun_inpainting.png|缩略图|RealNVP 在 LSUN 卧室数据集上的图像修复结果：红框标出被遮挡的原始区域，模型仅根据剩余像素和全分布密度完成补全。引自 Dinh et al., 2017。|400x400px|链接=Special:FilePath/Realnvp_lsun_inpainting.png]]
== 在 NIS/NIS+ 因果[[涌现]]框架中的应用 ==
== 在 NIS/NIS+ 因果[[涌现]]框架中的应用 ==
解码时，将宏观预测 <math>\hat{\mathbf{y}}_{t+1}</math> 与 <math>p-q</math> 维标准高斯噪声拼接，通过逆 INN <math>\psi_\alpha^{-1}</math> 重构微观状态。由于 RealNVP 的编码器与解码器只是方向反转，'''参数完全共享'''，模型参数量直接减半。
解码时，将宏观预测 <math>\hat{\mathbf{y}}_{t+1}</math> 与 <math>p-q</math> 维标准高斯噪声拼接，通过逆 INN <math>\psi_\alpha^{-1}</math> 重构微观状态。由于 RealNVP 的编码器与解码器只是方向反转，'''参数完全共享'''，模型参数量直接减半。
[[文件:nis_plus_architecture.png|缩略图|NIS+ 框架架构：RealNVP 的可逆神经网络（INN）实现编码器与解码器，信息丢弃与 EI 最大化在宏观动力学空间完成。引自 Yang et al., 2025。|替代=|400x400px]]
[[文件:nis_plus_architecture.png|缩略图|NIS+ 框架架构：RealNVP 的可逆神经网络（INN）实现编码器与解码器，信息丢弃与 EI 最大化在宏观动力学空间完成。引自 Yang et al., 2025。|400x400px|链接=Special:FilePath/Nis_plus_architecture.png]]
NIS 论文给出选用 RealNVP 的三点依据<ref name="NIS2022">{{cite journal|author1=Zhang J.|author2=Liu K.|title=Neural Information Squeezer for Causal Emergence|journal=Entropy|year=2022|volume=25|issue=1|page=26}}</ref>：
NIS 论文给出选用 RealNVP 的三点依据<ref name="NIS2022">{{cite journal|author1=Zhang J.|author2=Liu K.|title=Neural Information Squeezer for Causal Emergence|journal=Entropy|year=2022|volume=25|issue=1|page=26}}</ref>：