| 第202行: |
第202行: |
| | | | |
| | == 自然图像密度估计与生成 == | | == 自然图像密度估计与生成 == |
| − | [[文件:realnvp_celeba_generation.png|缩略图|RealNVP 在 CelebA 上生成的人脸样本。|264x264px|链接=Special:FilePath/Realnvp_celeba_generation.png]]
| |
| | | | |
| | RealNVP 最直接的应用场景是连续高维数据的密度估计与无条件生成<ref name="Dinh2017" />。在图像生成任务中,模型一次性学习整个图像的联合分布,然后直接从标准高斯分布采样并通过逆映射得到新图像。由于采样过程不依赖逐像素的顺序解码,生成速度显著高于自回归模型。 | | RealNVP 最直接的应用场景是连续高维数据的密度估计与无条件生成<ref name="Dinh2017" />。在图像生成任务中,模型一次性学习整个图像的联合分布,然后直接从标准高斯分布采样并通过逆映射得到新图像。由于采样过程不依赖逐像素的顺序解码,生成速度显著高于自回归模型。 |
| | | | |
| | 在 CelebA 人脸生成任务中,RealNVP 能够生成全局连贯、五官清晰的人脸样本(图 5)。与变分自编码器(Variational Autoencoder,VAE)相比,RealNVP 不依赖固定的重建损失(如均方误差(Mean Squared Error,MSE)),因此不会过度平滑高频细节;与 PixelRNN 等自回归模型相比,RealNVP 的采样在维度上完全并行,速度更快。 | | 在 CelebA 人脸生成任务中,RealNVP 能够生成全局连贯、五官清晰的人脸样本(图 5)。与变分自编码器(Variational Autoencoder,VAE)相比,RealNVP 不依赖固定的重建损失(如均方误差(Mean Squared Error,MSE)),因此不会过度平滑高频细节;与 PixelRNN 等自回归模型相比,RealNVP 的采样在维度上完全并行,速度更快。 |
| − | | + | [[文件:realnvp_celeba_generation.png|缩略图|RealNVP 在 CelebA 上生成的人脸样本。|264x264px|链接=Special:FilePath/Realnvp_celeba_generation.png|替代=|居中]] |
| − | | |
| − |
| |
| − | [[文件:aeflow_anomaly_detection.png|缩略图|AE-FLOW 在胸部 X 光上的异常检测结果。左列为异常(肺炎)样本,右列为正常样本;自上而下依次为原图、重建图与残差图。|替代=|360x360px]] | |
| | == 异常检测 == | | == 异常检测 == |
| | | | |
| 第218行: |
第214行: |
| | | | |
| | 图 6 展示了 AE-FLOW 在胸部 X 光数据上的结果。左列为异常(肺炎)样本,右列为正常样本;每列自上而下依次为原图、重建图与残差图。正常样本的残差整体较暗,而异常样本的肺部区域出现明显亮斑,直观地反映了模型对异常模式的识别能力。 | | 图 6 展示了 AE-FLOW 在胸部 X 光数据上的结果。左列为异常(肺炎)样本,右列为正常样本;每列自上而下依次为原图、重建图与残差图。正常样本的残差整体较暗,而异常样本的肺部区域出现明显亮斑,直观地反映了模型对异常模式的识别能力。 |
| − | | + | [[文件:aeflow_anomaly_detection.png|缩略图|AE-FLOW 在胸部 X 光上的异常检测结果。左列为异常(肺炎)样本,右列为正常样本;自上而下依次为原图、重建图与残差图。|替代=|360x360px|居中]] |
| − | | |
| − | | |
| | | | |
| | == 重建设置中的推断 == | | == 重建设置中的推断 == |
| 第232行: |
第226行: |
| | 由于模型学习了全数据分布的精确密度,它能对任意形状的掩码产生合理的语义补全,而非仅记忆特定训练掩码<ref name="Dinh2017" />。在 LSUN 卧室数据集上,RealNVP 对缺失区域(红框)的补全结果在语义和视觉上均保持合理(图 7)。 | | 由于模型学习了全数据分布的精确密度,它能对任意形状的掩码产生合理的语义补全,而非仅记忆特定训练掩码<ref name="Dinh2017" />。在 LSUN 卧室数据集上,RealNVP 对缺失区域(红框)的补全结果在语义和视觉上均保持合理(图 7)。 |
| | | | |
| − | [[文件:realnvp_lsun_inpainting.png|缩略图|RealNVP 在 LSUN 卧室数据集上的图像修复结果:红框标出被遮挡的原始区域,模型仅根据剩余像素和全分布密度完成补全。引自 Dinh et al., 2017。|274x274px|链接=Special:FilePath/Realnvp_lsun_inpainting.png]] | + | [[文件:realnvp_lsun_inpainting.png|缩略图|RealNVP 在 LSUN 卧室数据集上的图像修复结果:红框标出被遮挡的原始区域,模型仅根据剩余像素和全分布密度完成补全。|274x274px|链接=Special:FilePath/Realnvp_lsun_inpainting.png|替代=|居中]] |
| | | | |
| | == 在 NIS/NIS+ 因果[[涌现]]框架中的应用 == | | == 在 NIS/NIS+ 因果[[涌现]]框架中的应用 == |
| 第241行: |
第235行: |
| | # '''信息丢弃''':投影算子 <math>\chi_{p,q}</math> 丢弃 <math>p-q</math> 个维度,得到宏观状态 <math>\mathbf{y}_t = \chi_{p,q}(\psi_\alpha(\mathbf{x}_t))</math>。 | | # '''信息丢弃''':投影算子 <math>\chi_{p,q}</math> 丢弃 <math>p-q</math> 个维度,得到宏观状态 <math>\mathbf{y}_t = \chi_{p,q}(\psi_\alpha(\mathbf{x}_t))</math>。 |
| | | | |
| − | 解码时,将宏观预测 <math>\hat{\mathbf{y}}_{t+1}</math> 与 <math>p-q</math> 维标准高斯噪声拼接,通过逆 INN <math>\psi_\alpha^{-1}</math> 重构微观状态。由于 RealNVP 的编码器与解码器只是方向反转,'''参数完全共享''',模型参数量直接减半(图 8)。 | + | 解码时,将宏观预测 <math>\hat{\mathbf{y}}_{t+1}</math> 与 <math>p-q</math> 维标准高斯噪声拼接,通过逆 INN <math>\psi_\alpha^{-1}</math> 重构微观状态。由于 RealNVP 的编码器与解码器只是方向反转,'''参数完全共享''',模型参数量直接减半,如下图所示。 |
| | | | |
| − | [[文件:NIS+odd.png|缩略图|NIS/NIS+ 框架架构:RealNVP 的可逆神经网络(INN)实现编码器 φ 与解码器 φ†,信息丢弃与 EI 最大化在宏观动力学空间完成。|替代=|400x400px]] | + | [[文件:NIS+odd.png|缩略图|NIS/NIS+ 框架架构:RealNVP 的可逆神经网络(INN)实现编码器 φ 与解码器 φ†,信息丢弃与 EI 最大化在宏观动力学空间完成。|替代=|812x812px|居中]] |
| | | | |
| | NIS 论文给出选用 RealNVP 的三点依据<ref name="NIS2022">{{cite journal|author1=Zhang J.|author2=Liu K.|title=Neural Information Squeezer for Causal Emergence|journal=Entropy|year=2022|volume=25|issue=1|page=26}}</ref>: | | NIS 论文给出选用 RealNVP 的三点依据<ref name="NIS2022">{{cite journal|author1=Zhang J.|author2=Liu K.|title=Neural Information Squeezer for Causal Emergence|journal=Entropy|year=2022|volume=25|issue=1|page=26}}</ref>: |