比特
信息单位。 在需要作出不同选择的情况下把备选的刺激数量减少一半所必需的信息。即信号的信息量(比特数)等于信号刺激量以2为底数的对数值。 L．哈特莱1928年认为对信息量选用对数单位进行度量最合适。假定某个被传递的消息由A、B、C、D、E、F、G、H这8个字母构成，若用｛0，1｝二进制码表示，则每个字母需要用3个2进制码表示A(111)、B(110)、C(101)、D(100)、E(011)、F(010)、G(001)、H(000)，称每位二进制码为一个比特，则8个字母的消息每个字母所含的信息就是log28=3(比特)。若以H表示信息量，则对由m个符号组成的消息而言，每个符号所含信息量为H=log2m(比特)。信息论创始人申农认为，采用比特为单位计算信息量有三个优点：(1)实际上比较有用；(2)比较直观；(3)数学上比较合适。 |