| 第190行: |
第190行: |
| | = 应用 = | | = 应用 = |
| | | | |
| − | == 自然图像密度估计与生成 == | + | == 自然图像[[密度估计]]与生成 == |
| | | | |
| | RealNVP 最直接的应用场景是连续高维数据的密度估计与无条件生成<ref name="Dinh2017" />。在图像生成任务中,模型一次性学习整个图像的联合分布,然后直接从标准高斯分布采样并通过逆映射得到新图像。 | | RealNVP 最直接的应用场景是连续高维数据的密度估计与无条件生成<ref name="Dinh2017" />。在图像生成任务中,模型一次性学习整个图像的联合分布,然后直接从标准高斯分布采样并通过逆映射得到新图像。 |
| | | | |
| − | 在 CelebA 人脸生成任务中,RealNVP 能够生成全局连贯、五官清晰的人脸样本(见下图)。与变分自编码器(Variational Autoencoder,VAE)相比,RealNVP 不依赖固定的重建损失(如均方误差(Mean Squared Error,MSE)),因此不会过度平滑高频细节;与 PixelRNN 等自回归模型相比,RealNVP 的采样在维度上完全并行,速度更快。 | + | 在 CelebA 人脸生成任务中,RealNVP 能够生成全局连贯、五官清晰的人脸样本(见下图)。与[[变分自编码器]](Variational Autoencoder,VAE)相比,RealNVP 不依赖固定的重建损失(如均方误差(Mean Squared Error,MSE)),因此不会过度平滑高频细节;与 PixelRNN 等[[自回归模型]]相比,RealNVP 的采样在维度上完全并行,速度更快。 |
| | [[文件:realnvp_celeba_generation.png|缩略图|RealNVP 在 CelebA 上生成的人脸样本。|264x264px|链接=Special:FilePath/Realnvp_celeba_generation.png|替代=|居中]] | | [[文件:realnvp_celeba_generation.png|缩略图|RealNVP 在 CelebA 上生成的人脸样本。|264x264px|链接=Special:FilePath/Realnvp_celeba_generation.png|替代=|居中]] |
| − | == 异常检测 == | + | == [[异常检测]] == |
| | | | |
| − | RealNVP 能够给出数据的精确似然,这使它天然适合无监督异常检测:在仅含正常样本的数据上训练流模型,测试时将似然显著低于正常水平的样本判为异常。也可以把流与重建类模型结合起来,综合似然与重建误差构造异常分数——下文的 AE-FLOW 即属此类。医学影像领域尤其典型——正常扫描数量庞大,而病变样本稀少且难以标注。 | + | RealNVP 能够给出数据的精确似然,这使它天然适合无监督异常检测:在仅含正常样本的数据上训练流模型,测试时将似然显著低于正常水平的样本判为异常。也可以把流与重建类模型结合起来,综合似然与[[重建误差]]构造异常分数——下文的 AE-FLOW 即属此类。医学影像领域尤其典型——正常扫描数量庞大,而病变样本稀少且难以标注。 |
| | | | |
| − | AE-FLOW 将自编码器与以 RealNVP 仿射耦合层为核心的标准化流瓶颈相结合,在胸部 X 光、光学相干断层扫描、皮肤镜与脑部核磁共振等多种医学影像数据上检测异常。模型同时利用重建误差与流模型给出的负对数似然构造异常分数:正常样本能被准确重建并获得较高似然,而病变区域会产生高重建残差与低似然<ref name="AEFLOW2023">{{cite journal|author1=Zhao Y.|author2=Ding Q.|author3=Zhang X.|title=AE-FLOW: Autoencoders with Normalizing Flows for Medical Images Anomaly Detection|journal=International Conference on Learning Representations (ICLR)|year=2023|url=https://openreview.net/forum?id=9OmCr1q54Z}}</ref>。 | + | AE-FLOW 将自编码器与以 RealNVP [[仿射耦合层]]为核心的[[标准化流]]瓶颈相结合,在胸部 X 光、光学相干断层扫描、皮肤镜与脑部核磁共振等多种医学影像数据上检测异常。模型同时利用重建误差与流模型给出的[[负对数似然]]构造异常分数:正常样本能被准确重建并获得较高似然,而病变区域会产生高重建残差与低似然<ref name="AEFLOW2023">{{cite journal|author1=Zhao Y.|author2=Ding Q.|author3=Zhang X.|title=AE-FLOW: Autoencoders with Normalizing Flows for Medical Images Anomaly Detection|journal=International Conference on Learning Representations (ICLR)|year=2023|url=https://openreview.net/forum?id=9OmCr1q54Z}}</ref>。 |
| | | | |
| | 下图展示了 AE-FLOW 在胸部 X 光数据上的结果。左列为异常(肺炎)样本,右列为正常样本;每列自上而下依次为原图、重建图与残差图。正常样本的残差整体较暗,而异常样本的肺部区域出现明显亮斑,直观地反映了模型对异常模式的识别能力。 | | 下图展示了 AE-FLOW 在胸部 X 光数据上的结果。左列为异常(肺炎)样本,右列为正常样本;每列自上而下依次为原图、重建图与残差图。正常样本的残差整体较暗,而异常样本的肺部区域出现明显亮斑,直观地反映了模型对异常模式的识别能力。 |
| 第207行: |
第207行: |
| | == 重建设置中的推断 == | | == 重建设置中的推断 == |
| | | | |
| − | 由于编码器 <math>f</math> 与解码器 <math>g</math> 互为逆映射(<math>\mathbf{x} = g(f(\mathbf{x}))</math>),RealNVP 天然适合图像修复、去噪、着色等重建设置。以图像修复为例:已知像素 <math>\mathbf{x}_O</math> 固定,对缺失像素 <math>\mathbf{x}_H</math> 用梯度上升最大化 <math>\log p_X(\mathbf{x}_O, \mathbf{x}_H)</math>,并加入少量高斯噪声扰动: | + | 由于编码器 <math>f</math> 与解码器 <math>g</math> 互为逆映射(<math>\mathbf{x} = g(f(\mathbf{x}))</math>),RealNVP 天然适合[[图像修复]]、去噪、着色等重建设置。以图像修复为例:已知像素 <math>\mathbf{x}_O</math> 固定,对缺失像素 <math>\mathbf{x}_H</math> 用梯度上升最大化 <math>\log p_X(\mathbf{x}_O, \mathbf{x}_H)</math>,并加入少量高斯噪声扰动: |
| | | | |
| | <math> | | <math> |
| 第217行: |
第217行: |
| | [[文件:realnvp_lsun_inpainting.png|缩略图|RealNVP 在 LSUN 卧室数据集上的图像修复结果:红框标出被遮挡的原始区域,模型仅根据剩余像素和全分布密度完成补全。|274x274px|链接=Special:FilePath/Realnvp_lsun_inpainting.png|替代=|居中]] | | [[文件:realnvp_lsun_inpainting.png|缩略图|RealNVP 在 LSUN 卧室数据集上的图像修复结果:红框标出被遮挡的原始区域,模型仅根据剩余像素和全分布密度完成补全。|274x274px|链接=Special:FilePath/Realnvp_lsun_inpainting.png|替代=|居中]] |
| | | | |
| − | == 在 NIS/NIS+ 因果[[涌现]]框架中的应用 == | + | == 在 [[NIS]]/[[NIS+]] 因果[[涌现]]框架中的应用 == |
| | | | |
| − | 在神经信息挤压器(Neural Information Squeezer,NIS)及其扩展 NIS+(Neural Information Squeezer Plus)中,RealNVP 以可逆神经网络(Invertible Neural Networks,INN)作为编码器,实现微观状态到宏观状态的可逆粗粒化。粗粒化[[策略]]被建模为两阶段过程: | + | 在神经信息挤压器(Neural Information Squeezer,NIS)及其扩展 NIS+(Neural Information Squeezer Plus)中,RealNVP 以[[可逆神经网络]](Invertible Neural Networks,INN)作为编码器,实现微观状态到宏观状态的可逆[[粗粒化]]。粗粒化[[策略]]被建模为两阶段过程: |
| | | | |
| | # '''无损变换''':由 RealNVP 耦合层堆叠构成的 INN <math>\psi_\alpha: \mathbb{R}^p \to \mathbb{R}^p</math> 将微观状态 <math>\mathbf{x}_t</math> 映射到等维潜在空间 <math>\mathbf{x}'_t</math>。'''该阶段信息不丢失'''。 | | # '''无损变换''':由 RealNVP 耦合层堆叠构成的 INN <math>\psi_\alpha: \mathbb{R}^p \to \mathbb{R}^p</math> 将微观状态 <math>\mathbf{x}_t</math> 映射到等维潜在空间 <math>\mathbf{x}'_t</math>。'''该阶段信息不丢失'''。 |
| 第231行: |
第231行: |
| | # '''精确可逆性''':微观到潜在的变换不损失信息,信息丢弃量 <math>p-q</math> 成为显式可控的超参数。 | | # '''精确可逆性''':微观到潜在的变换不损失信息,信息丢弃量 <math>p-q</math> 成为显式可控的超参数。 |
| | # '''参数共享''':<math>\psi_\alpha</math> 与 <math>\psi_\alpha^{-1}</math> 共用一套参数,显著压缩模型规模。 | | # '''参数共享''':<math>\psi_\alpha</math> 与 <math>\psi_\alpha^{-1}</math> 共用一套参数,显著压缩模型规模。 |
| − | # '''行列式可解析''':三角雅可比结构使有效信息(Effective Information,EI)上界和最优宏观维度 <math>q</math> 的存在性等核心定理得以严格推导。 | + | # '''行列式可解析''':三角雅可比结构使[[有效信息]]([[Effective Information]],[[EI]])上界和最优宏观维度 <math>q</math> 的存在性等核心定理得以严格推导。 |
| | | | |
| − | 消融实验表明,若将 RealNVP 替换为普通前馈网络或 VAE,多步预测误差显著上升;在分布外泛化测试中,仅基于 RealNVP 的 NIS/NIS+ 保持了低误差。论文指出:'''可逆神经网络作为编码器和解码器是必需的'''。在 NIS+ 中,RealNVP 继续承担编码–解码功能,而 EI 最大化等改进发生在投影后的宏观动力学空间上,不改动 INN 模块本身<ref name="NISPlus2025">{{cite journal|author1=Yang M.|author2=Wang Z.|author3=Liu K.|author4=Rong Y.|author5=Yuan B.|author6=Zhang J.|title=Finding Emergence in Data by Maximizing Effective Information|journal=National Science Review|year=2025|volume=12|issue=1|page=nwae279}}</ref>。 | + | 消融实验表明,若将 RealNVP 替换为普通前馈网络或 VAE,多步预测误差显著上升;在[[分布外泛化]]测试中,仅基于 RealNVP 的 NIS/NIS+ 保持了低误差。论文指出:'''可逆神经网络作为编码器和解码器是必需的'''。在 NIS+ 中,RealNVP 继续承担编码–解码功能,而 EI 最大化等改进发生在投影后的宏观动力学空间上,不改动 INN 模块本身<ref name="NISPlus2025">{{cite journal|author1=Yang M.|author2=Wang Z.|author3=Liu K.|author4=Rong Y.|author5=Yuan B.|author6=Zhang J.|title=Finding Emergence in Data by Maximizing Effective Information|journal=National Science Review|year=2025|volume=12|issue=1|page=nwae279}}</ref>。 |
| | | | |
| | + | |
| | = 优缺点 = | | = 优缺点 = |
| | | | |