信息量,用消息数的对数来表示,是信息多少的量度,单位是比特每秒。在收到符号之前不能肯定信源发送什么符号,通信的目的就是使接收者在收到符号后,解除对信源存在的疑义,使不确定度变为零,就是信息量。连续信源有无限个值,输出信息量无限大,但互信息是两个熵值之差,是相对量,不论连续或离散信源,接收者获取的信息量仍然保持信息的一切特性,且是有限值。