信息論與編碼習(xí)題參考答案

1、?H.F.1.6為了使電視圖象獲得良好的清晰度和規(guī)定的對比度，需要用5105個像素和10個不同的亮度電平，并設(shè)每秒要傳送30幀圖象，所有的像素是獨(dú)立的，且所有亮度電平等概出現(xiàn)。求傳輸此圖象所需要的信息率（bits）。解：bits104.98310661.130))(()(Rbitframe10661.1322.3105)(H105)(Hbitpels322.310log)(log)()(H7665051010??????????????

2、???????framebitXHsframerxXapapxiii所需信息速率為：每幀圖像的熵是：每個像素的熵是：，由熵的極值性：由于亮度電平等概出現(xiàn)1.7設(shè)某彩電系統(tǒng)，除了滿足對于黑白電視系統(tǒng)的上述要求外，還必須有30個不同的色彩度。試證明傳輸這種彩電系統(tǒng)的信息率要比黑白系統(tǒng)的信息率大2.5倍左右。證:.5.25.25.2477.210log300log)(H)(Hpelsbit300log)(log)()(Hbit30010301

3、0300130011倍左右比黑白電視系統(tǒng)高彩色電視系統(tǒng)信息率要圖形所以傳輸相同的倍作用大信息量比黑白電視系統(tǒng)彩色電視系統(tǒng)每個像素每個像素的熵是：量化所以每個像素需要用個亮度每個色彩度需要求下在滿足黑白電視系統(tǒng)要個不同色彩度增加???????????xxbpbpxiii?1.8每幀電視圖像可以認(rèn)為是由3105個像素組成，所以像素均是獨(dú)立變化，且每像素又取128個不同的亮度電平，并設(shè)亮度電平是等概出現(xiàn)。問每幀圖像含有多少信息量？若現(xiàn)在有一個

4、廣播員，在約10000個漢字中選1000個字來口述這一電視圖像，試問若要恰當(dāng)?shù)孛枋龃藞D像，廣播員在口述中至少需要多少漢字？解:個漢字最少需要數(shù)描述一幀圖像需要漢字每個漢字所包含信息量每個漢字所出現(xiàn)概率每幀圖象所含信息量55665510322.610322.61.0log101.2)()()()(logH(c):1.0100001000symblebit101.2128log103)(103)(:?????????????????????

5、?framecHXHncnHXHnppxHXH1.9給定一個概率分布和一個整數(shù)m，。定義，證明：)...(21npppnm??0????miimpq11。并說明等式何時成立？)log()...()...(2121mnqqpppHpppHmmmn???證：?????????????????????????????????nmiiimiiinpppppppHxxxxfxexxxfxxexxxfxxxxf1121loglog)...()0(l

6、og)(0log)log()(0log)log()()0(log)(??又為凸函數(shù)。即又為凸函數(shù)，如下：先證明時等式成立。當(dāng)且僅當(dāng)時等式成立。當(dāng)且僅當(dāng)即可得：的算術(shù)平均值的函數(shù)，函數(shù)的平均值小于變量由凸函數(shù)的性質(zhì)，變量nmmmmmnmmmiiimmmmmmiiinmiiimiiinnmmmmmnmiiimmnmiinmiinmiinmiinmiiipppmnqqpppHpppHqqppqpppHmnqqqpppppppppHpppmnq

7、qqppmnqqmnpmnpmnmnpfmnmnpfmnpp??????????????????????????????????????????????????????????????????????????...)log()...()...(loglog)...()log(loglogloglog)...(...)log(loglogloglog)()()()()(log2121211211112121111111??2.13把n個二

8、進(jìn)制對稱信道串接起來，每個二進(jìn)制對稱信道的錯誤傳輸概率為p(0p1)，試證明：證明：整個串接信道的錯誤傳輸概率pn=0.5[1(12p)n]。再證明：n→∞時，limI(X0Xn)=0。信道串接如下圖所示：?H.F.(1)若p(0)=23，p(1)=13，求H(X)，H(XY)，H(YX)和I(XY)；(2)求該信道的信道容量及其達(dá)到的輸入概率分布。解：bitsymble8113.0)43log433141log413241log413

9、143log4332()(log)()()(log)()(bitsymble9799.0)125log125127log127()(log)()(12543314132)1()()1(12741314332)0()()0(bitsymble9183.0)31log3132log32()(log)()()1(2121212121212121??????????????????????????????????????????????????

10、??????????ijijijiijijjijjjiiiyiiiyiiixypxypxpxypyxpXYHypypYHxypxppxypxppxpxpXH.時達(dá)到信道容量21)1()0(即信源輸入為等概分布1887.01log25.0)25.0(2log)1log()(log本信道為強(qiáng)對稱信道7497.01686.09183.0)()()(1686.08113.09799.0)()()(CXpXpHrHrCYXIXHYXHXYHYHY

11、XI???????????????????????symblebit(2)bitsymblebitsymble??2.21設(shè)某信道的信道矩陣為???????3131616161613131][bbbb214321aaP試求：(1)該信道的信道容量C；(2)I(a1Y)；(3)I(a2Y)。解:bymblebit0817.0)()()3()2(symblebit0817.0)61613131(4log)(log1214321???????

12、??????CYaIYaIHppppHsC、道）本信道為對稱離散信（2.27設(shè)某信道的信道矩陣為其中P1P2，…，PN是N個離散信道的信道矩陣。令C1，C2，…，CN表示N個離散信道的容量。試證明，該信道的容量???????????NpppP????00000][21比特符號，且當(dāng)每個信道i的利用率pi＝2CiC(i＝12…N)時達(dá)其容量C。???NiciC12log證明證明::)1(]P[)](2log[)1()21()(log)()