更改
跳到导航
跳到搜索
←上一编辑
下一编辑→
NIS
(查看源代码)
2024年9月9日 (一) 09:22的版本
删除2字节
、
2024年9月9日 (星期一)
→互信息随尺度的变化
第281行:
第281行:
由信息瓶颈理论与互信息理论,论文<ref name="1s" />可以推出如下推论:
由信息瓶颈理论与互信息理论,论文<ref name="1s" />可以推出如下推论:
−
+
===
如果模型训练良好,宏观动力学的互信息不会发生变化
===
−
'''
如果模型训练良好,宏观动力学的互信息不会发生变化
'''
对于训练充分的NIS模型,宏观动力学<math>f_\beta</math>的互信息将与所有参数(包括刻度<math>q</math>)无关。
对于训练充分的NIS模型,宏观动力学<math>f_\beta</math>的互信息将与所有参数(包括刻度<math>q</math>)无关。
第289行:
第288行:
由此可得,<math>q</math>是因果涌现的无关参数。但根据EI的定义,较小的<math>q</math>意味着编码器将携带更多有效信息。
由此可得,<math>q</math>是因果涌现的无关参数。但根据EI的定义,较小的<math>q</math>意味着编码器将携带更多有效信息。
−
+
===
信道越窄互信息越小
===
−
'''
信道越窄互信息越小
'''
若<math>\mathbf{x}_t</math>是<math>p</math>维的,那么对于 <math>0 < q_1 < q_2 < p</math> 有
若<math>\mathbf{x}_t</math>是<math>p</math>维的,那么对于 <math>0 < q_1 < q_2 < p</math> 有
Jake
786
个编辑
导航菜单
个人工具
登录
名字空间
页面
讨论
变种
视图
阅读
查看源代码
查看历史
更多
搜索
导航
集智百科
集智主页
集智斑图
集智学园
最近更改
所有页面
帮助
工具
特殊页面
可打印版本