信息论

信息论 （正體）

信息论是运用概率论与数理统计的方法研究信息、信息熵、通信系统、数据传输、密码学、数据压缩等问题的应用数学学科。

信息论将信息的传递作为一种统计现象来考虑，给出了估算通信信道容量的方法。信息传输和信息压缩是信息论研究中的两大领域。这两个方面又由信息传输定理、信源－信道隔离定理相互联系。

香农被称为是“信息论之父”。人们通常将香农于1948年10月发表于《贝尔系统技术学报》上的论文《A Mathematical Theory of Communication》（通信的数学理论）作为现代信息论研究的开端。这一文章部分基于哈里·奈奎斯特和拉尔夫·哈特利先前的成果。在该文中，香农给出了信息熵（以下简称为“熵”）的定义：

H = -	∑	pilogpi
	i

这一定义可以用来推算传递经二进制编码后的原信息所需的信道带宽。熵度量的是消息中所含的信息量，其中去除了由消息的固有结构所决定的部分，比如，语言结构的冗余性以及语言中字母、词的使用频度等统计特性。

信息论中熵的概念与物理学中的热力学熵有着紧密的联系。玻耳兹曼与吉布斯在统计物理学中对熵做了很多的工作。信息论中的熵也正是受之启发。

互信息(Mutual Information)是另一有用的信息度量，它是指两个事件集合之间的相关性。两个事件X和Y的互信息定义为：

I(X,Y) = H(X) + H(Y) - H(X,Y)

其中 H(X,Y) 是联合熵(Joint Entropy)，其定义为：

H(X,Y) = -	∑	p(x,y)logp(x,y)
	x,y

互信息与多元对数似然比检验以及皮尔森χ²校验有着密切的联系。

应用

信息论被广泛应用在：

• 编码学
• 密码学与密码分析学
• 数据传输
• 数据压缩
• 检测理论
• 估计理论
• 信息论第一定律：信息守恒定律

外部链接

• 香农论文：通信的数学理论
• 作为Shannon信息论和Popper知识进化论桥梁的广义信息论
• 熵和信息网站

Why are we here?
All text is available under the terms of the GNU Free Documentation License
This page is cache of Wikipedia. History