信息論與糾錯(cuò)編碼題庫(kù)

1、第三章第三章離散信源無(wú)失真編碼離散信源無(wú)失真編碼3.23.2離散無(wú)記憶信源，熵為H[x]，對(duì)信源的L長(zhǎng)序列進(jìn)行等長(zhǎng)編碼，碼字是長(zhǎng)為n的D進(jìn)制符號(hào)串，問(wèn)：（1）滿(mǎn)足什么條件，可實(shí)現(xiàn)無(wú)失真編碼。（2）L增大，編碼效率也會(huì)增大嗎？解：（1）當(dāng)時(shí)，可實(shí)現(xiàn)無(wú)失真編碼；log()nDLHX?（2）等長(zhǎng)編碼時(shí)，從總的趨勢(shì)來(lái)說(shuō)，增加L可提高編碼效率，且當(dāng)時(shí)，L??1??。但不一定L的每次增加都一定會(huì)使編碼效率提高。3.33.3變長(zhǎng)編碼定理指明，對(duì)信源進(jìn)

2、行變長(zhǎng)編碼，總可以找到一種惟一可譯碼，使碼長(zhǎng)滿(mǎn)足n時(shí)，能否也找到惟一可譯碼？DXHlog)(?nDXHlog)(L1nDXHlog)(L1解：在時(shí)，不能找到惟一可譯碼。nDXHlog)(L1證明：假設(shè)在時(shí)，能否也找到惟一可譯碼，則由變長(zhǎng)編碼定理當(dāng)滿(mǎn)足nDXHlog)(L1n1，則唯一可譯。碼長(zhǎng)取3，則不等式左邊=8(13)^31則唯一可譯。碼長(zhǎng)為5，則不等式左邊=8(13)^51則唯一可譯。3.113.11某個(gè)信源有N個(gè)消息，等概率分布

3、，對(duì)其進(jìn)行最佳二進(jìn)制編碼，問(wèn)當(dāng)N=和N=1（m2m2m為整數(shù)）時(shí)，每個(gè)碼字的長(zhǎng)度等于多少？平均碼長(zhǎng)等于多少？解：當(dāng)N=，最佳二進(jìn)制編碼每個(gè)碼字的長(zhǎng)度均為m；平均碼長(zhǎng)=m2mn當(dāng)N=1，令q(x1)q(x2)q(x3)…q()最佳二進(jìn)制編碼前面–12m????xm12?2m個(gè)碼字的長(zhǎng)度為m，后2個(gè)碼字的長(zhǎng)度為m1；平均碼長(zhǎng)=n1222????mmmm3.153.15離散無(wú)記憶信源=??????)(XqX???5.01x3.02x???2.