信息論與編碼試題集與答案考試必看

1、 信息基礎(chǔ)論必備考卷 信息基礎(chǔ)論必備考卷1.在無(wú)失真的信源中，信源輸出由 H(X) 來(lái)度量；在有失真的信源中，信源輸出由 R(D) 來(lái)度量。2.要使通信系統(tǒng)做到傳輸信息有效、可靠和保密，必須首先 信源 編碼，然后_____加密____編碼，再______信道_____編碼，最后送入信道。3.帶限 AWGN 波形信道在平均功率受限條件下信道容量的基本公式，也就是有名

2、的香農(nóng)公式是 ；當(dāng)歸一化信道容量 C/W 趨近于零時(shí)，也即信道完全喪失了通 log(1 ) C W SNR ? ?信能力，此時(shí) Eb/N0 為 -1.6 dB，我們將它稱(chēng)作香農(nóng)限，是一切編碼方式所能達(dá)到的理論極限。4.保密系統(tǒng)的密鑰量越小，密鑰熵 H(K)就越 小 ，其密文中含有的關(guān)于明文的信息量I(M；C)就越 大 。5.已知 n＝7 的循環(huán)碼 ，則信息位長(zhǎng)度 k 為 3 ，校驗(yàn)多項(xiàng)式 4 2 ( ) 1 g x x x x

3、? ? ? ?h(x)= 。 3 1 x x ? ?6.設(shè)輸入符號(hào)表為 X＝{0，1}，輸出符號(hào)表為 Y＝{0，1}。輸入信號(hào)的概率分布為 p＝(1/2，1/2)，失真函數(shù)為 d(0，0) = d(1，1) = 0，d(0，1) =2，d(1，0) = 1，則 Dmin＝ 0 ，R(Dmin)＝ 1bit/symbol ，相應(yīng)的編碼器轉(zhuǎn)移概率矩陣[p(y/x)]＝ ；Dmax＝ 0.5 ， 1 00 1? ?? ? ? ?R(Dm

4、ax)＝ 0 ，相應(yīng)的編碼器轉(zhuǎn)移概率矩陣[p(y/x)]＝ 。 1 01 0? ?? ? ? ?7.已知用戶(hù) A 的 RSA 公開(kāi)密鑰(e,n)=(3,55)， ,則40 ，他的秘密 5, 11 p q ? ? ( ) ? n ?密鑰(d,n)＝(27,55) 。若用戶(hù) B 向用戶(hù) A 發(fā)送 m=2 的加密消息，則該加密后的消息為 8 。二、判斷題 二、判斷題1.可以用克勞夫特不等式作為唯一可譯碼存在的判據(jù)。

5、 （? ）2.線(xiàn)性碼一定包含全零碼。 （? ）3.算術(shù)編碼是一種無(wú)失真的分組信源編碼，其基本思想是將一定精度數(shù)值作為序列的 編碼，是以另外一種形式實(shí)現(xiàn)的最佳統(tǒng)計(jì)匹配編碼。 （×）4.某一信源，不管它是否輸出符號(hào)，只要這些符號(hào)具有某些概率特性，就有信息量。（×）5.離散平穩(wěn)有記憶信源符號(hào)序列的平均符號(hào)熵隨著序列

6、長(zhǎng)度 L 的增大而增大。 （×） 6.限平均功率最大熵定理指出對(duì)于相關(guān)矩陣一定的隨機(jī)矢量 X，當(dāng)它是正態(tài)分布時(shí)具 有最大熵。 （? ） 7.循環(huán)碼的碼集中的任何一個(gè)碼字的循環(huán)移位仍是碼字。 （? ）8.信道容量是信道中能夠傳輸?shù)淖钚⌒畔⒘俊?

7、 （×）9.香農(nóng)信源編碼方法在進(jìn)行編碼時(shí)不需要預(yù)先計(jì)算每個(gè)碼字的長(zhǎng)度。 （×）10. 在已知收碼 R 的條件下找出可能性最大的發(fā)碼 作為譯碼估計(jì)值，這種譯碼方 i C法叫做最佳譯碼。 （? ）0.251 bit/symbol ? ? ; ( ) ( ) ( ,

8、 ) I X Y H X H Y H X Y ? ? ? ?五、計(jì)算題 五、計(jì)算題一階齊次馬爾可夫信源消息集 ， } , , { 3 2 1 a a a X ?狀態(tài)集 ，且令 ，條件轉(zhuǎn)移概率為 } , , { 3 2 1 S S S S ? 3 , 2 , 1 , ? ? i a S i i，(1)畫(huà)出該馬氏鏈的狀態(tài)轉(zhuǎn)移圖； ? ?? ? ???? ? ????0 3 1 3 23 1 3 1 3 12 1 4 1 4 1) / ( i

9、 j S a P(2)計(jì)算信源的極限熵。解：(1)（2） →? ??? ???? ? ?? ?? ? ?? ? ?1 3 2 13 2 3 11 2 12 3 3 12 3 11 4 11 3 3 22 3 11 4 1w w ww w ww w w ww w w w? ?? ?????3 . 03 . 04 . 0321wwwH(X|S1) =H(1/4,1/4,1/2)=1.5 比特/符號(hào)H(X|S2)=H(1/3,1/3,1/3)

10、=1.585 比特/符號(hào)H(X|S3)=H(2/3,1/3)= 0.918 比特/符號(hào) 比特/符號(hào) ? ?3| 0.4 1.5 0.3 1.585 0.3 0.918 1.3511H w H X S i i i? ? ? ? ? ? ? ? ? ? ?六、計(jì)算題 六、計(jì)算題若有一信源 ，每秒鐘發(fā)出 2.55 個(gè)信源符號(hào)。 ? ??? ?? ? ? ??? ??2 . 0 8 . 02 1 x xPX將此信源的輸出符號(hào)送入