第946行: |
第946行: |
| 定理6(控制定理)给定一个预知竞争者聚类R^, | | 定理6(控制定理)给定一个预知竞争者聚类R^, |
| | | |
− | H[S] - h[S-> | R^] ≤ Cμ,(70) | + | <math> |
| + | H[S] - h[\overset{\to }{S} \vert \hat{\mathcal{R}}] \le C_μ \ , \tag{70} |
| + | </math> |
| | | |
| 其中H[S]是从可观测随机过程单个符号的熵。 | | 其中H[S]是从可观测随机过程单个符号的熵。 |
第952行: |
第954行: |
| 证明。由于周知的原因(参考文献。【62,定理. 4.2.1,p. 64】),对于任意统计随机过程, | | 证明。由于周知的原因(参考文献。【62,定理. 4.2.1,p. 64】),对于任意统计随机过程, |
| | | |
− | lim L->∞ H[S->L] / L = lim L->∞ H[SL | S->L-1]。(71)
| + | <math> |
| + | \lim_{L\to \infty}\frac{H[\overset{\to L}{S}]}{L} = \lim_{L\to \infty}H[S_L \vert \overset{\to L-1}{S}] \ . \tag{71} |
| + | </math> |
| | | |
| 更多地,这个极限总是存在。到了这个点,我们已经定义的h[S->]是用左手面的形式;回忆下等式(9)。接下来我们用右手面将是便利的。 | | 更多地,这个极限总是存在。到了这个点,我们已经定义的h[S->]是用左手面的形式;回忆下等式(9)。接下来我们用右手面将是便利的。 |
| | | |
| 从条件熵的定义可知,我们有 | | 从条件熵的定义可知,我们有 |
− | H[S<-L] = H[S->1 | S<-L-1] + H[S<-L-1] | + | |
− | = H[S<-L-1|S<-1] + H[H<-1]. (72) | + | <math> |
| + | \begin{aligned} |
| + | H[\overset{\leftarrow L}{S}] &= H[\overset{\leftarrow 1}{S} \vert \overset{\leftarrow L-1}{S}] + H[\overset{\leftarrow L-1}{S}] (72) \\ |
| + | &= H[\overset{\leftarrow L-1}{S} \vert \overset{\leftarrow 1}{S}] + H[\overset{\leftarrow 1}{S}] \ . |
| + | \end{aligned} |
| + | </math> |
| | | |
| 所以我们可以将过程过去生成的最后可测量的熵表示成 | | 所以我们可以将过程过去生成的最后可测量的熵表示成 |
| | | |
− | H[S<-1] = H[S<-L] - H[S<-L-1|S<-1] (73) | + | <math> |
− | = H[S<-1 | S<-L-1] + H[S<-L-1] - H[S<-L-1|S<-1] (74)
| + | \begin{aligned} |
− | = H[S<-1 | S<-L-1] + I[S<-L-1;S<-1]. (75)
| + | H[\overset{\leftarrow 1}{S}] &= H[\overset{\leftarrow L}{S}] - H[\overset{\leftarrow L-1}{S} \vert \overset{\leftarrow 1}{S}] (73) \\ |
| + | &= H[\overset{\leftarrow 1}{S} \vert \overset{\leftarrow L-1}{S}] + H[\overset{\leftarrow L-1}{S}] - H[\overset{\leftarrow L-1}{S} \vert \overset{\leftarrow 1}{S}] \\ |
| + | &= H[\overset{\leftarrow 1}{S} \vert \overset{\leftarrow L-1}{S}] + I[\overset{\leftarrow L-1}{S};\overset{\leftarrow 1}{S}] \ . |
| + | \end{aligned} |
| + | </math> |
| | | |
| 我们由替换RHS对应H[S<-L]的等式(72)走过等式(73)和等式(74)。 | | 我们由替换RHS对应H[S<-L]的等式(72)走过等式(73)和等式(74)。 |
第970行: |
第983行: |
| 考虑到L->∞ 的极限在LHS上没有作用, | | 考虑到L->∞ 的极限在LHS上没有作用, |
| | | |
− | H[S<-1] = lim L->∞(H[S<-1 | S<-L-1] + I[S<-L-1;S<-1] ). (76) | + | <math> |
| + | H[\overset{\leftarrow 1}{S}] = \lim_{L\to \infty}\left(H[\overset{\leftarrow 1}{S} \vert \overset{\leftarrow L-1}{S}] + I[\overset{\leftarrow L-1}{S};\overset{\leftarrow 1}{S}]\right) \ . \tag{76} |
| + | </math> |
| | | |
| 自从过程是统计的,我们可以将极限中第一个术语倾向于H[SL|S->L-1]。这个极限是h[S->],由等式(71)。进一步,因为统计性,H[S<-1] = H[S->1] = H[S]。转移熵速率h[S->]到等式(76)的LHS并且再次请求时间转换,我们有 | | 自从过程是统计的,我们可以将极限中第一个术语倾向于H[SL|S->L-1]。这个极限是h[S->],由等式(71)。进一步,因为统计性,H[S<-1] = H[S->1] = H[S]。转移熵速率h[S->]到等式(76)的LHS并且再次请求时间转换,我们有 |
− | H[S]-h[S->] = lim L->∞I[S<-L-1;S<-1] (77) | + | |
− | = I[S<-;S->1] (78)
| + | <math> |
− | = H[S->1] - H[S->1|S<-] (79)
| + | \begin{aligned} |
− | = H[S->] - H[S->1|S](80)
| + | H[S] - h[\overset{\to}{S}] &= \lim_{L\to \infty}I[\overset{\leftarrow L-1}{S};\overset{\leftarrow 1}{S}] \ (77) \\ |
− | = I[S->1;S](81)
| + | &= I[\overset{\leftarrow}{S};\overset{\leftarrow 1}{S}] \ (78) \\ |
− | ≤ H[S] = Cμ,(82)
| + | &= H[\overset{\to 1}{S}] - H[\overset{\to 1}{S} \vert \overset{\leftarrow}{S}] \ (79) \\ |
| + | &= H[\overset{\to 1}{S}] - H[\overset{\to 1}{S} \vert \mathcal{S}] \ (80) \\ |
| + | &= I[\overset{\to 1}{S};\mathcal{S}] \ (81) \\ |
| + | & \le H[\mathcal{S}] = C_μ \ (82) \ , |
| + | \end{aligned} |
| + | </math> |
| | | |
| 其中最后一个不等式来自等式(A9)。证毕。 | | 其中最后一个不等式来自等式(A9)。证毕。 |