信息論與編碼中經常要求的就是平均自信息量,它是一個隨機變量,不能用來作爲整個信源的信息測度,但是能夠反應一個事件平均所需的信息量。下面小編就來跟大家介紹一下它的求法,希望對大家有所幫助。
操作方法
(01)首先要理解題意,要求的就是信息熵。
(02)然後可以得出質點落入任一格的概率空間,如下圖所示。
(03)接着可以求出信源的平均自信息量。
(04)第二問要求的當質點A落入後,B落入的平均自信息量,即爲H(B|A)。
(05)因爲A已落入,則B落入的格可能有47個,可以寫出條件概率,如圖所示。
(06)然後求出此題的平均自信息量。
(07)A和B同時落入的平均自信息量也可以求出,如圖所示。