更改

跳到导航 跳到搜索
添加206字节 、 2026年1月11日 (星期日)
第481行: 第481行:  
首先,第一个定义即原论文给出的定义(见冗余信息定义小节)。
 
首先,第一个定义即原论文给出的定义(见冗余信息定义小节)。
 
=== Griffith===
 
=== Griffith===
−
原论文构建冗余晶格的方式,给定随机变量 X 和 Y,我们记作 ,表示存在一个可测函数 ,使得  几乎必然成立(即以概率1成立)。在这种情况下,我们称 X 在信息上“贫于”Y(informationally poorer),据此可以引入偏序关系。给定随机变量 X 和 Y,我们定义 (称为 X 和 Y 的 join)为在信息上最“贫”的随机变量(即在偏序 ⪯ 下“最小”),使得  且 。类似地,给定随机变量 X 和 Y,我们定义 (称为 X 和 Y 的 meet)为在信息上最“富”的随机变量(即在偏序 ⪰ 下“最大”),使得 。我们也将  称为 X 和 Y 的共同随机变量(common random variable)。共同随机变量的熵即(零误差信息)。对于零误差信息,作者提出了如下的零误差交集信息度量 \I_{\cap}^0(X_1, \ldots, X_n : Y):它是一个随机变量 Q 关于 Y 的最大零误差信息 ,且 Q 是每个预测变量  的函数
+
原论文构建冗余晶格的方式,给定随机变量 <math>X</math>和 <math>Y</math>,记 <math>X\preceq Y</math> 表示存在可测函数 <math>f</math> 使得 <math>X=f(Y)</math> 几乎必然成立。此时称 <math>X</math>在信息上“贫于”<math>Y</math>(informationally poorer),据此可以引入偏序关系。给定随机变量 <math>X,Y</math>,定义其 join(连接)<math>X\vee Y</math>为信息上最“贫”的随机变量,使得<math>X\preceq X\vee Y</math> 且 <math>Y\preceq X\vee Y</math>;类似地,定义 meet(相遇)<math>X\wedge Y</math> 为信息上最“富”的随机变量,使得<math>X\wedge Y\preceq X</math> 且 <math>X\wedge Y\preceq Y</math>。我们称 <math>X\wedge Y</math> 为 <math>X</math>与 <math>Y </math>的共同随机变量。
−
\I_{\cap}^0(X_1, \ldots, X_n : Y) \equiv \max_{\Pr(Q|Y)} I^0(Q : Y) \quad \text{subject to} \quad Q \preceq X_i \; \forall i \in \{1, \ldots, n\}
+
共同随机变量的熵即<math>\mathcal{I}=I^0</math>(零误差信息)。对于零误差信息 <math>\mathcal{I}=I^0</math>,我们提出零误差交集信息<math>\I_{\cap}^0(X_1,\dots,X_n:Y)</math>:它是一个随机变量<math> Q </math>关于<math>Y </math>的最大零误差信息 <math>I^0(Q:Y)</math>,且 Q 是每个预测变量 <math>X_1,\dots,X_n</math>的函数:<math>\[
−
上式可简化为:
+
\I_{\cap}^0(X_1,\dots,X_n:Y)\triangleq
−
\I_{\cap}^0(X_1, \ldots, X_n : Y) = I^0(X_1 \wedge \cdots \wedge X_n : Y) = H(X_1 \wedge \cdots \wedge X_n \wedge Y)
+
\max_{\Pr(Q|Y)}I^0(Q:Y)\quad\text{subject to}\quad Q\preceq X_i\;
−
与香浓互信息不同其只适用于零误差通信故要改进以适配互信息的场景因此更改为\I_{\cap}(X_1, \ldots, X_n : Y) = I(X_1 \wedge \cdots \wedge X_n : Y)
+
\forall i\in\{1,\dots,n\}.
 +
\]</math>
 +
上式可简化为:<math>\[
 +
I_{\cap}^0(X_1,\dots,X_n:Y)
 +
=I^0(X_1\wedge\cdots\wedge X_n:Y)
 +
=H(X_1\wedge\cdots\wedge X_n\wedge Y).
 +
\]</math>
 +
与香浓互信息不同其只适用于零误差通信故要改进以适配互信息的场景因此更改为<math>\[
 +
\I_{\cap}(X_1,\dots,X_n:Y)
 +
=I(X_1\wedge\cdots\wedge X_n:Y).
 +
\]</math>
    
===Aobo===
 
===Aobo===
175

个编辑

导航菜单