251
个编辑
更改
→总结
受[[因果涌现]]理论的启发，作者构建了一种新的[[机器学习 Machine Learning|机器学习]]框架Neural Information Squeezer Plus (NIS+)来学习涌现宏观动力学，并直接从数据中找到合适的粗粒化策略、量化各种条件下[[因果涌现|CE]]的程度。
受[[因果涌现]]理论的启发，作者构建了一种新的[[机器学习 Machine Learning|机器学习]]框架Neural Information Squeezer Plus (NIS+)来学习涌现宏观动力学，并直接从数据中找到合适的粗粒化策略、量化各种条件下[[因果涌现|CE]]的程度。
与其他机器学习框架相比，NIS+专注于在保持有效性约束的同时最大化宏观动力学的[[有效信息]]（EI）。这使得学习到的涌现宏观动力学能够捕获尽可能独立于输入数据分布的不变因果机制。这个特性不仅使NIS+能够识别不同环境中的数据[[因果涌现|CE]]，而且还增强了它对不同于训练数据的环境进行泛化的能力。通过将误差约束纳入式{{EquationNote|1}}，我们增强了EI最大化框架的鲁棒性，解决了<ref>Eberhardt F and Lee L-L. Causal emergence: When distortions in a map obscure the territory. Philosophies 2022; 7: 30.</ref>中提出的重整化和时间演化算子的交换性问题。我们的框架确保微观动力学演化与编码的宏观动力学相匹配。由于编码器和解码器所使用的神经网络互为可逆函数且参数共享，这种微观状态和编码成的宏观状态之间的一致性证实了学习宏观的动力学和粗粒化策略是可交换的。因此，NIS+扩展了Hoel<ref name=":8" />的[[因果涌现|CE]]理论，使其既适用于离散和连续动力系统，也适用于实际数据。
与其他机器学习框架相比，NIS+专注于在保持有效性约束的同时最大化宏观动力学的[[有效信息]]（EI）。这使得学习到的涌现宏观动力学能够捕获尽可能独立于输入数据分布的不变因果机制。这个特性不仅使NIS+能够识别不同环境中的数据[[因果涌现|CE]]，而且还增强了它对不同于训练数据的环境进行泛化的能力。通过将误差约束纳入式{{EquationNote|1}}，作者增强了EI最大化框架的鲁棒性，解决了<ref>Eberhardt F and Lee L-L. Causal emergence: When distortions in a map obscure the territory. Philosophies 2022; 7: 30.</ref>中提出的重整化和时间演化算子的交换性问题。作者的框架确保微观动力学演化与编码的宏观动力学相匹配。由于编码器和解码器所使用的神经网络互为可逆函数且参数共享，这种微观状态和编码成的宏观状态之间的一致性证实了学习宏观的动力学和粗粒化策略是可交换的。因此，NIS+扩展了Hoel<ref name=":8" />的[[因果涌现|CE]]理论，使其既适用于离散和连续动力系统，也适用于实际数据。
实验表明，①通过最大化[[有效信息|EI]]，NIS+的多步预测能力、泛化能力、模式捕获能力优于其他[[机器学习 Machine Learning|机器学习]]模型，可以在隐空间中获得更稳健的宏观动力学。②NIS+可以比Ψ指标更合理地识别[[因果涌现|CE]]。NIS+可以有效地学习复杂系统的粗粒度化过程，并使用积分梯度(IG)方法可以将宏观状态和微观状态之间的关系可视化，从而可以识别微观状态中最重要的变量。③外在噪声会增加[[因果涌现|CE]]，而内在噪声会降低[[因果涌现|CE]]。这表明，由观测不确定性引起的外部噪声可以通过学到的粗粒化策略减轻。另一方面，由于动态规则的内在不确定性而产生的固有噪声无法消除。
实验表明，①通过最大化[[有效信息|EI]]，NIS+的多步预测能力、泛化能力、模式捕获能力优于其他[[机器学习 Machine Learning|机器学习]]模型，可以在隐空间中获得更稳健的宏观动力学。②NIS+可以比Ψ指标更合理地识别[[因果涌现|CE]]。NIS+可以有效地学习复杂系统的粗粒度化过程，并使用积分梯度(IG)方法可以将宏观状态和微观状态之间的关系可视化，从而可以识别微观状态中最重要的变量。③外在噪声会增加[[因果涌现|CE]]，而内在噪声会降低[[因果涌现|CE]]。这表明，由观测不确定性引起的外部噪声可以通过学到的粗粒化策略减轻。另一方面，由于动态规则的内在不确定性而产生的固有噪声无法消除。