信息論與編碼-曹雪虹-課后習(xí)題答案

1、《信息論與編碼》 《信息論與編碼》-曹雪虹 曹雪虹-課后習(xí)題答 課后習(xí)題答案第二章2.1 一個馬爾可夫信源有 3 個符號 ，轉(zhuǎn)移概率為： ， ? ? 1, 2 3 , u u u ? ? 1 1 | 1/ 2 p u u ?， ， ， ， ? ? 2 1 | 1/ 2 p u u ? ? ? 3 1 | 0 p u u ? ? ? 1 2 | 1/3 p u u ? ? ? 2 2 | 0 p u u ? ? ? 3 2 | 2/3 p

2、 u u ?， ， ， ，畫出狀態(tài)圖并求出各符號穩(wěn)態(tài)概 ? ? 1 3 | 1/3 p u u ? ? ? 2 3 | 2/3 p u u ? ? ? 3 3 | 0 p u u ?率。解：狀態(tài)圖如下狀態(tài)轉(zhuǎn)移矩陣為：1/ 2 1/ 2 01/3 0 2/31/3 2/3 0p? ?? ? ? ? ? ? ? ? ?設(shè)狀態(tài) u1，u2，u3 穩(wěn)定后的概率分別為 W1，W2、W3由 得 計算可得1 2 3 1WP WW W W? ? ? ?

3、 ? ? ?1 2 3 11 3 22 31 2 31 1 12 3 31 22 3231W W W WW W WW WW W W? ? ? ? ? ? ? ? ? ? ? ?? ? ? ? ? ? ? ?1231025 925 625WWW? ? ? ? ? ? ? ? ? ? ? ?2.2 由符號集{0，1}組成的二階馬爾可夫鏈，其轉(zhuǎn)移概率為： =0.8， (0 | 00) p (0 |11) p=0.2， =0.2， =0.8，

4、 =0.5， =0.5， =0.5， (1| 00) p (1|11) p (0 | 01) p (0 |10) p (1| 01) p=0.5。畫出狀態(tài)圖，并計算各狀態(tài)的穩(wěn)態(tài)概率。 (1|10) p解：(0 | 00) (00 | 00) 0.8 p p ? ? (0 | 01) (10 | 01) 0.5 p p ? ?(0 |11) (10 |11) 0.2 p p ? ? (0 |10) (00 |10) 0.5 p p ? ?

5、(1| 00) (01| 00) 0.2 p p ? ? (1| 01) (11| 01) 0.5 p p ? ?(1|11) (11|11) 0.8 p p ? ? (1|10) (01|10) 0.5 p p ? ?u1 u2u31/21/21/32/32/31/341 42 43 44 45 4651 52 53 54 55 5661 62 63 64 65 66共有 21 種組合：其中 11，22，33，44，55，66 的概率

6、是 3616161 ? ?其他 15 個組合的概率是 1816161 2 ? ? ?symbol bit x p x p X Hii i / 337 . 4 181 log 181 15 361 log 361 6 ) ( log ) ( ) ( ? ? ?? ? ?? ? ? ? ? ? ? ? ?(4)參考上面的兩個點數(shù)的排列，可以得出兩個點數(shù)求和的概率分布如下：symbol bitx p x p X HX PXii i/ 274

7、. 361 log 61365 log 365 2 91 log 91 2 121 log 121 2 181 log 181 2 361 log 361 2) ( log ) ( ) (361 12181 11121 1091 9365 861 7365 691 5121 4181 3361 2) (?? ?? ? ?? ? ? ? ? ? ? ? ? ? ? ? ?? ?? ?? ? ?? ?? ? ?? ? ??? ???(5)b

8、it x p x Ix pi ii710 . 1 3611 log ) ( log ) (3611 11 6161 ) (? ? ? ? ?? ? ? ?2-42.5 居住某地區(qū)的女孩子有 25%是大學(xué)生，在女大學(xué)生中有 75%是身高 160 厘米以上的，而女孩子中身高 160 厘米以上的占總數(shù)的一半。假如我們得知“身高 160 厘米以上的某女孩是大學(xué)生”的消息，問獲得多少信息量？解：設(shè)隨機變量 X 代表女孩子學(xué)歷X x1（是大學(xué)生）