更改

香农这期间的一系列工作，建立了现代[[信息论]]。

香农这期间的一系列工作，建立了现代[[信息论]]。

他后来回忆道：“我的第一个想法，就是如何在噪声信道中最好地改善信息传输”。香农在文章中定义了信息的基本单位，采取了贝尔实验室同事John Tukey的建议，定为“比特”。当年，据说是[[冯·诺尔曼]] John von Neumann 说服香农借用热力学的“[[熵]]”这个词。冯·诺尔曼认为，当时没有人知道这个“信息熵”是什么，这在学术界关于信息理论辩论中会给香农带来优势。此外，香农说过他的通信理论在数学和哲学原理方面颇多受益于MIT 的同事维纳 Norbert Wiener 。[[维纳]]则强调，引入信息熵及数字技术作为该理论的基础是香农个人的功劳。

他后来回忆道：“我的第一个想法，就是如何在噪声信道中最好地改善信息传输”。香农在文章中定义了信息的基本单位，采取了贝尔实验室同事John Tukey的建议，定为“比特”。当年，据说是[[冯·诺尔曼 John von Neumann]]  说服香农借用热力学的“[[熵]]”这个词。冯·诺尔曼认为，当时没有人知道这个“信息熵”是什么，这在学术界关于信息理论辩论中会给香农带来优势。此外，香农说过他的通信理论在数学和哲学原理方面颇多受益于MIT 的同事维纳 Norbert Wiener 。[[维纳]]则强调，引入信息熵及数字技术作为该理论的基础是香农个人的功劳。

===香农逼近定理（1948）===

===香农逼近定理（1948）===