信息论之父C.E.Shannon在1948年发表的论文“通信的数学理论（AMathematicalTheoryofCommunication）”中，Shannon指出，任何信息都存在冗余，冗余大小与信息中每个符号（数字、字母或单词）的出现概率或者说不确定性有关。Shannon借鉴了热力学的概念，把信息中排除了冗余后的平均信息量称为“信息熵”，并给出了计算信息熵的数学表达式。
本内容通常，一个信源发送出什么符号是不确定的，衡量它可以根据其出现的概率来度量。概率大，出现机会多，不确定性小；反之就大。不确定性函数f是概率P的单调递降函数；两个独立符号所产生的不确定性应等于各自不确定性之和，即
f（P，P）=f（P）+f（P），这称为可加性。同时满足这两个条件的函数f是对数函数。在信源中，考虑的不是某一单个符号发生的不确定性，而是要考虑这个信源所有可能发生情况的平均不确定性。若信源符号有n种取值：U…U…U，对应概率为：P…Pi…P，且各种符号的出现彼此独立。这时，信源的平均不确定性应当为单个符号不确定性-logP的统计平均值（E），可称为信息熵，即，式中对数一般取2为底，单位为比特。但是，也可以取其它对数底，采用其它相应的单位，它们间可用换底公式换算。最简单的单符号信源仅取0和1两个元素，即二元信源，其概率为P和Q=1-P，该信源的熵即为如图1所示。由图可见，离散信源的信息熵具有：①非负性，即收到一个信源符号所获得的信息量应为正值，H（U）≥0；②对称性，即对称于P=0．5（③确定性，H（1，0）=0，即P=0或P=1已是确定状态，所得信息量为零；④极值性，当P=0．5时，H（U）最大；而且H（U）是P的上凸函数。正在加载图1二元信源的熵对连续信源，仙农给出了形式上类似于离散信源的连续熵，虽然连续熵H（U）仍具有可加性，但不具有信息的非负性，已不同于离散信源。H（U）不代表连续信源的信息量。连续信源取值无限，信息量是无限大，而H（U）是一个有限的相对值，又称相对熵。但是，在取两熵的差值为互信息时，它仍具有非负性。这与力学中势能的定义相仿。
