| 第70行: |
第70行: |
| | | | |
| | ==== 最小信息二分(MIB)==== | | ==== 最小信息二分(MIB)==== |
| − | 最小信息二分 MIB (S) 主要用来确定使归一化有效信息最小化的二分切割。其核心目标是定位系统中最易切割的 “信息断层线”,即找到系统中最薄弱的信息连接分割方式。
| + | 最小信息二分旨在确定使归一化有效信息最小化的二分切割方式,其核心是定位系统中最易割裂的“信息断层线”,即识别信息连接最薄弱的分割方案。 |
| | + | 具体步骤如下: |
| | | | |
| − | MIB (S) 是针对系统子系统的二分切割函数,其正式定义为: | + | 1. 选择子系统<math> S \subseteq X </math>,其中 X包含 n个元素,S包含 k个元素(2≤k≤n); |
| | + | |
| | + | 2.枚举所有二分切割 <math>[A:B]_S</math>,需满足<math>A \cup B = S</math>(覆盖子集)且 <math>A \cap B = \emptyset</math>(无交集)。 |
| | + | |
| | + | 最小信息二分 MIB(S)定义为: |
| | + | |
| | + | <math> |
| | + | \text{MIB}(S) = \argmin_{[A:B]_S} (\text{Normalized EI}) |
| | + | </math> |
| | + | |
| | + | 即在所有二分切割中选取归一化有效信息最小的划分。 |
| | + | 归一化有效信息的计算公式为: |
| | + | |
| | + | <math> |
| | + | \text{Normalized EI} = \frac{\text{EI}(A \rightleftharpoons B)}{\min\{H_{\text{max}}(A), H_{\text{max}}(B)\}} |
| | + | </math> |
| | + | |
| | + | 最大熵 Hmax(A)的计算方式为: |
| | | | |
| | <math> | | <math> |
| − | MIB(S) = [A: B]_{S} \text{ for which } \frac{EI(A \rightleftharpoons B)}{\min {H^{max}(A), H^{max}(B)}} = \min \text{ for all } A
| + | H_{\text{max}}(A) = \frac{1}{2}\ln\left[(2\pi e c_p^2)^m\right] |
| | </math> | | </math> |
| | | | |
| − | 这里,[A:B]ₛ表示对子系统 S 的二分切割;EI (A⇌B) 为 A 与 B 之间的双向有效信息;分母 min {Hmax (A), Hmax (B)} 为 A 或 B 的最大可能熵(该值仅依赖于各自包含的元素数量)。通过寻找使上述归一化表达式取值最小的二分切割,MIB (S) 得以确定系统中最易分割的信息边界。
| + | 其中 <math>m = \text{dim}(A)</math>表示 A的维度。 |
| | | | |
| | ==== 熵的计算 ==== | | ==== 熵的计算 ==== |