更改
跳到导航
跳到搜索
←上一编辑
下一编辑→
NIS
(查看源代码)
2024年7月7日 (日) 17:10的版本
添加1字节
、
2024年7月7日 (星期日)
小
公式错误修正
第1行:
第1行:
−
NIS(神经信息压缩器)是一个以最大化粗粒化过程中有效信息的神经网络框架。它由可逆神经网络组成,分为编码器、解码器、动力学学习器三部分,可以通过微观状态时间序列的输入、训练后输出粗粒化策略、宏观动力学、最优建模尺度,并判断是否存在因果涌现。NIS框架可以被视为一个压缩信道,通过投影操作在中间进行信道压缩。这种压缩信息通道通过约束粗粒化策略,将复杂的微观状态映射到简单的宏观状态,从而定义了有效的粗粒化策略和宏观动态。基于信息瓶颈理论,NIS框架通过神经网络模型的训练过程中,逐渐使得其输出与真实数据的互信息接近于 <math> I(\mathbf{x}{t+1}; \mathbf{x}_t) </math>,从而增强了整个系统的因果涌现特性。
+
NIS(神经信息压缩器)是一个以最大化粗粒化过程中有效信息的神经网络框架。它由可逆神经网络组成,分为编码器、解码器、动力学学习器三部分,可以通过微观状态时间序列的输入、训练后输出粗粒化策略、宏观动力学、最优建模尺度,并判断是否存在因果涌现。NIS框架可以被视为一个压缩信道,通过投影操作在中间进行信道压缩。这种压缩信息通道通过约束粗粒化策略,将复杂的微观状态映射到简单的宏观状态,从而定义了有效的粗粒化策略和宏观动态。基于信息瓶颈理论,NIS框架通过神经网络模型的训练过程中,逐渐使得其输出与真实数据的互信息接近于 <math> I(\mathbf{x}
_
{t+1}; \mathbf{x}_t) </math>,从而增强了整个系统的因果涌现特性。
验证其性质的实验包括带测量噪声的弹簧振荡器、简单布尔网络等,由其部分不足之处也衍生出了NIS+框架。NIS在信息瓶颈理论的指导下,展示了在时间序列数据中发现因果涌现的理论性质和应用潜力。
验证其性质的实验包括带测量噪声的弹簧振荡器、简单布尔网络等,由其部分不足之处也衍生出了NIS+框架。NIS在信息瓶颈理论的指导下,展示了在时间序列数据中发现因果涌现的理论性质和应用潜力。
LJR.json
68
个编辑
导航菜单
个人工具
登录
名字空间
页面
讨论
变种
视图
阅读
查看源代码
查看历史
更多
搜索
导航
集智百科
集智主页
集智斑图
集智学园
最近更改
所有页面
帮助
工具
特殊页面
可打印版本