5,443
个编辑
更改
跳到导航
跳到搜索
第35行：
第35行： − 在维恩图中，冗余度可以视为I（S；Ai）之间的交集。因此通过集合之间的包含关系，我们可以大大简化冗余度的概念。举个例子，考虑两个信息源集合A和B，其中A是B的子集。显然，A提供的任何信息B已经提供了，因此A与B之间的冗余性就退化为A自身的自冗余性。此外，对于任意源C，可推导出Imin（S；{A，B，C}）= Imin（S；{A，C}）。基于这一思路，对于任意由多个源集合构成的集合（其中某些集合是其他集合的超集），该集合的冗余度等同于移除所有超集后的冗余度。因此，Imin的定义域（A（R））可以简化为：所有源集合构成的集合中，不存在任何源集合是其他集合的超集。（\mathcal{A}(S)=\{\alpha\in\mathcal{P}_1(\mathcal{P}_1(S)):\forall A_i,A_j\in\alpha,A_i\nsubseteq A_j\},+ − + − 从现在起，我们将用括号内的表达式（仅包含每个源右下角的数字）来表示A(R)中的元素，这些元素对应于源的集合。例如，{ {R1，R2} }将为{12}，{{R1}，{R2，R3}}将为{1}{23}。+ − 通过将相同推理过程进行延伸，我们可以定义A(R)元素间的偏序关系。考虑两个源集合Q和 A（R），对于A（R）中每个源B在Q中都存在一个源A，且A是B的子集。这意味着对于每个源B，都存在一个源A，使得A提供的信息量不超过B。因此，所有B共享的冗余信息至少包含所有A共享的冗余信息。由此，我们可以在A(R)元素间定义一个偏序关系（即一种排序）：当且仅当后一集合提供额外冗余信息时，才认为一个元素（源集合）优先于另一个。将此排序应用于A(R)的元素时，将产生一个冗余格，其中较高的元素提供至少与较低的元素一样多的冗余信息。+ − 有了结构和偏序关系，我们需要对函数进行约束。此时我们说一下自由度的问题（只多了一个自由度），所以只需要一个新定义，这篇文章选了最底下的格子——冗余信息。+ + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + +
→冗余晶格
=== 冗余晶格 ===
=== 冗余晶格 ===
在维恩图中，冗余度可以视为I（S；Ai）之间的交集。因此通过集合之间的包含关系，我们可以大大简化冗余度的概念
其中\mathcal{P}_1(S)=\mathcal{P}(S)\backslash\{\emptyset\}是S的所有非空子集的集合，对于每个\alpha,\beta\in\mathcal{A}(S)，我们说\beta\preceq_S\alpha如果对于每个A\in\alpha存在B\in\beta使得B\subseteq A。）
举例而言，考虑两个源<math>\mathbf{A}</math>与<math>\mathbf{B}</math>，且 <math>\mathbf{A}\subseteq\mathbf{B}</math>。
显然，<math>\mathbf{A}</math> 提供的任何信息也被<math> \mathbf{B}</math>提供，因此 <math>\mathbf{A}</math>与<math>\mathbf{B}</math>之间的冗余退化为<math>\mathbf{A}</math>的自冗余：
\begin{equation}
I_{\min}(S;\{\mathbf{A},\mathbf{B}\})
=I_{\min}(S;\{\mathbf{A}\})=I(S;\mathbf{A}).
\end{equation}
进一步，对任意源<math>\mathbf{C}</math>，有<math>I_{\min}(S;\{\mathbf{A},\mathbf{B},\mathbf{C}\})
=I_{\min}(S;\{\mathbf{A},\mathbf{C}\})</math>。
推广之，对于任何源集合，若其中某些源是其他源的超集（即这个源包含其他源），则该集合的冗余等价于去掉所有超集后的冗余。
因此，<math>I_{\min}</math>的定义域可简化为无源是其他源的超集的那些集合。即：
\begin{equation}
\mathcal{A}(\mathbf{R})=
\bigl\{\alpha\in\mathcal{P}_{1}(\mathcal{P}_{1}(\mathbf{R}))
\mid \forall\mathbf{A}_{i},\mathbf{A}_{j}\in\alpha,\;
\mathbf{A}_{i}\not\subset\mathbf{A}_{j}\bigr\},
\end{equation}
其中 <math>\mathcal{P}_{1}(\mathbf{R})=\mathcal{P}(\mathbf{R})\setminus\{\emptyset\}</math>为<math>\mathbf{R}</math>的所有非空子集的集合。
此后，我们将用带括号的索引简记<math>\mathcal{A}(\mathbf{R})</math>的元素，例如：
\[
\{R_{1},R_{2}\}\to\{12\},\quad
\{\{R_{1}\},\{R_{2},R_{3}\}\}\to\{1\}\{23\},\quad \text{等等}.
\]
通过将上述思路进一步延伸，可在<math>\mathcal{A}(\mathbf{R})</math>的元素上定义一个偏序<math>\preccurlyeq</math>。
考虑两个源集合 <math>\alpha,\beta\in\mathcal{A}(\mathbf{R})</math>，若对每个源
<math>\mathbf{B}\in\beta</math> 都存在源<math>\mathbf{A}\in\alpha</math>使得
<math>\mathbf{A}\subseteq\mathbf{B}</math>，则意味着 <math>\beta</math>中所有源所共享的冗余信息至少包含<math>\alpha</math>中所有源所共享的冗余信息。
于是，我们可定义偏序：
\begin{equation}
\forall\alpha,\beta\in\mathcal{A}(\mathbf{R}),\quad
\alpha\preccurlyeq\beta
\;\Longleftrightarrow\;
\forall\mathbf{B}\in\beta,\;
\exists\mathbf{A}\in\alpha,\;
\mathbf{A}\subseteq\mathbf{B}.
\end{equation}
将此偏序应用于<math>\mathcal{A}(\mathbf{R})</math>的元素，便得到冗余格（redundancy lattice），其中较高元素提供的冗余信息不少于较低元素有了结构和偏序关系，我们需要对函数进行约束。此时我们说一下自由度的问题（只多了一个自由度），所以只需要一个新定义，这篇文章选了最底下的格子——冗余信息。
=== 信息原子计算 ===
=== 信息原子计算 ===