資訊理論與編碼之求自資訊量

題目設一離散無記憶信源，然後告訴我們它發出的訊息為多少，讓我們求這個訊息的自資訊量和每個符號攜帶的自資訊量，今天小編就來跟大家介紹一下它的求法。

操作方法

（01）首先分析題意，信源是無記憶的，因此發出的各訊息之間是互相獨立的，此時發出的訊息的自資訊量即為各訊息的自資訊量。

（02）當a0=0時，求出它包含的資訊量為1.415。

（03）當a1=1時，求出它包含的資訊量為2。

（04）a2=2時，求出它包含的資訊量為2。

（05）a3=3時，它包含的資訊量為3，如下圖所示。

（06）在發出的訊息中，總結出0,1,2,3各有14,13,12,6個，可以得出總得資訊量。

（07）共有45個符號，所以平均每個符號所帶的自資訊量為上式的答案除以45。