7,129
个编辑
更改
→符号码的源码定理
假设{{mvar|X}}是一个随机变量，取值在{{math|Σ<sub>1</sub>}}，让{{math| ''f''  }}是一个[[可变长度代码#唯一可解码代码|唯一可解码]]代码，从{{math|Σ{su|b=1|p=∗}}}}到{{math|Σ{su|b=2|p=∗}}}}，其中{{math|{{! }}Σ<sub>2</sub>{{！}}。{{=}} ''a''}}. 让{{mvar|S}}表示由码字{{math| ''f'' (''X'')}}的长度给出的随机变量。
假设{{mvar|X}}是一个随机变量，取值在{{math|Σ<sub>1</sub>}}，让{{math| ''f''  }}是一个[[可变长度代码#唯一可解码代码|唯一可解码]]代码，从<math>\Sigma _{1}^{*}</math>到<math>\Sigma _{2}^{*}</math>，其中<math>\left | \Sigma _{2} \right |=a</math>。 让{{mvar|S}}表示由码字{{math| ''f'' (''X'')}}的长度给出的随机变量。
如果{{math| ''f'' }}是最优的，因为它具有{{mvar|X}}的最小预期字长，则(Shannon 1948):
如果{{math| ''f'' }}是最优的，因为它具有{{mvar|X}}的最小预期字长，则(Shannon 1948):