信息論第三章離散信源無(wú)失真編碼

第3章

離散信源無(wú)失真編碼第3章離散信源無(wú)失真編碼

內(nèi)容提要用盡可能少的符號(hào)來(lái)傳輸信源消息，目的是提高傳輸效率，這是信源編碼應(yīng)考慮的問(wèn)題，這章討論在不允許失真情況下的信源編碼。等長(zhǎng)編碼定理給出了等長(zhǎng)編碼條件下，其碼長(zhǎng)的下限值，變長(zhǎng)編碼定理（香農(nóng)第一定理）給出了信源無(wú)失真變長(zhǎng)編碼時(shí)其碼長(zhǎng)的上、下限值。本章還介紹了三種通用信源編碼方法：香農(nóng)編碼法、Fano編碼法和霍夫曼編碼法。3．1緒論為了實(shí)現(xiàn)高質(zhì)量、高效率的通信，引入了信源編碼和信道編碼。信源編碼和信道編碼主要需要解決以下兩個(gè)問(wèn)題。提高傳輸效率

增強(qiáng)通信的可靠性

（1）提高傳輸效率，用盡可能少的信道傳輸符號(hào)來(lái)傳遞信源消息，目的是提高傳輸效率，這是信源編碼主要應(yīng)考慮的問(wèn)題。這里又分兩種情況討論，即允許接收信號(hào)有一定的失真或不允許失真。綜上所述，提高抗干擾能力往往是以降低信息傳輸效率為代價(jià)的，而為了提高傳輸效率又往往削弱了其抗干擾能力。這樣，設(shè)計(jì)者在取舍之間就要作均衡考慮。

（2）

增強(qiáng)通信的可靠性如何增加信號(hào)的抗干擾能力，提高傳輸?shù)目煽啃?，這是信道編碼主要考慮的問(wèn)題。解決這一問(wèn)題，一般是采用冗余編碼法，賦予信碼自身一定的糾錯(cuò)和檢錯(cuò)能力，只要采取適當(dāng)?shù)男诺谰幋a和譯碼措施，就可使信道傳輸?shù)牟铄e(cuò)概率降到允許的范圍之內(nèi)。信源編碼包括兩個(gè)功能：（1）

將信源符號(hào)變換成適合信道傳輸?shù)姆?hào)；（2）

壓縮信源冗余度，提高傳輸效率。{a1,a2,…,aK}為信源符號(hào)集，序列中每一個(gè)符號(hào)uml都取自信源符號(hào)集。{b1

，b2

，…，bD}是適合信道傳輸?shù)腄個(gè)符號(hào)，用作信源編碼器的編碼符號(hào)。編碼輸出碼字cm=cm1cm2…cmn，cmk∈{b1

，b2

，…，bD}k=1,2,

…,n，n表示碼字長(zhǎng)度，簡(jiǎn)稱碼長(zhǎng)

信源符號(hào){a1,a2,…,aK}

信道符號(hào)（碼符號(hào)）{b1,b2,…,bD}

圖3-1信源編碼器模型

信源

信源編碼器

一般來(lái)說(shuō)，信源編碼可歸納為如圖3-1所示的模型。

消息

ui=ui1ui2…uiL

碼字ci=ci1ci2…cin

信源編碼可看成是從信源符號(hào)集到碼符號(hào)集的一種映射，即將信源符號(hào)集中的每個(gè)元素（可以是單符號(hào)，也可以是符號(hào)序列）映射成一個(gè)長(zhǎng)度為n的碼字。對(duì)于同一個(gè)信源，編碼方法是多種的。【例3.3】用{u1

，u2

，u3，u4}表示信源的四個(gè)消息，碼符號(hào)集為{0,1}，表3-1列出了該信源的幾種不同編碼。表3-1同一信源的幾種不同編碼信源消息各消息概率碼1碼2碼3碼4u1q(u1)000001u2q(u2)1101110u3q(u3)101000100u4q(u4)11111110003.1.1碼的分類3.變長(zhǎng)碼若碼字集合C中的所有碼字cm(m=1,2,…,M)，其碼長(zhǎng)不都相同，稱碼C為變長(zhǎng)碼。2.等長(zhǎng)碼在一組碼字集合C中的所有碼字cm(m=1,2,…,M)，其碼長(zhǎng)都相同，則稱這組碼C為等長(zhǎng)碼。一般，可以將碼簡(jiǎn)單的分成如下幾類：1.二元碼若碼符號(hào)集為{0，1}，則碼字就是二元序列，稱為二元碼,二元碼通過(guò)二進(jìn)制信道傳輸，這是數(shù)字通信和計(jì)算機(jī)通信中最常見(jiàn)的一種碼。4.奇異碼對(duì)奇異碼來(lái)說(shuō)，從信源消息到碼字的影射不是一一對(duì)應(yīng)的。奇異碼不具備惟一可譯性。

信源消息各消息概率碼1碼2碼3碼4u1q(u1)000001u2q(u2)1101110u3q(u3)101000100u4q(u4)1111111000表3-1同一信源的幾種不同編碼5.非奇異碼從信源消息到碼字的影射是一一對(duì)應(yīng)的，每一個(gè)不同的信源消息都用不同的碼字對(duì)其編碼。信源消息各消息概率碼1碼2碼3碼4u1q(u1)000001u2q(u2)1101110u3q(u3)101000100u4q(u4)1111111000表3-1同一信源的幾種不同編碼擴(kuò)展信源

信源編碼器

信源符號(hào){a1,a2,…,aK}

信道符號(hào)（碼符號(hào)）{b1,b2,…,bD}

消息

u1

…uN=(u11u12…u1L)…(uN1uN2…uNL)N次擴(kuò)展碼字

c1

…cN=(c11c12…c1n)…(cN1cN2…cNn)圖3-2N次擴(kuò)展信源編碼器模型

原碼的N次擴(kuò)展碼是將信源作N次擴(kuò)展得到的新信源符號(hào)序列u（N）=u1

…uN=(u11u12…u1L)…(uN1uN2…uNL)，對(duì)應(yīng)碼符號(hào)序列c（N）=c1

…cN=(c11c12…c1n)…(cN1cN2…cNn)，記集合C(N)={c1(N),c2(N),…}，C

(N)即原碼C的N次擴(kuò)展碼。6.原碼C的N次擴(kuò)展碼原碼C的N次擴(kuò)展碼中的每個(gè)元素是N次擴(kuò)展信源中的序列所對(duì)應(yīng)的N個(gè)碼字組成的序列。對(duì)于定長(zhǎng)碼，若原碼是惟一可譯碼，則它的N次擴(kuò)展碼也是惟一可譯的，而對(duì)于變長(zhǎng)碼則不盡然，見(jiàn)表3-2。7.惟一可譯碼定義3.1如果碼的任意N次擴(kuò)展碼都是非奇異碼，則稱該碼為惟一可譯碼。信源消息各消息概率碼1碼2碼3碼4u1q(u1)000001u2q(u2)1101110u3q(u3)101000100u4q(u4)1111111000表3-1同一信源的幾種不同編碼對(duì)于定長(zhǎng)碼，若原碼是惟一可譯碼，則它的N次擴(kuò)展碼也是惟一可譯的，而對(duì)于變長(zhǎng)碼則不盡然，見(jiàn)表3-2。信源消息各消息概率碼1碼2碼3u1q(u1)011u2q(u2)11001u3q(u3)00100001u4q(u4)1110000001表3-2同一信源的幾種不同變長(zhǎng)編碼7.惟一可譯碼8.即時(shí)碼對(duì)于變長(zhǎng)碼，又有如下定義定義3.2

對(duì)于碼字c

=c1c2…cn,稱c、

=c1c2…ci(i<n)為碼字c的字頭（前綴）。定義3.3若碼中任一碼字都不是另一碼字的字頭，稱該碼為異字頭碼（無(wú)前綴碼）。表3-2中碼3，收到“1”后就知道一個(gè)碼字已經(jīng)完結(jié)，無(wú)須等待下一個(gè)符號(hào)抵達(dá)，所以無(wú)前綴碼能夠即時(shí)譯碼,稱之為即時(shí)可譯碼，簡(jiǎn)稱即時(shí)碼。而對(duì)于碼2，收到“1”后，并不能立即做出判決，就是收到“10”也不能立即做出判決，則還要收到下面的碼元才能做出判決。所以非異字頭碼不能即時(shí)譯碼，稱為非即時(shí)碼，由于非異字頭碼的其中一些碼字是另一些碼字的延長(zhǎng)，故也稱延長(zhǎng)碼。顯然，即時(shí)碼是惟一可譯碼，而惟一可譯碼不一定是即時(shí)碼。

即時(shí)碼可用樹(shù)圖法來(lái)構(gòu)造。圖3-3用樹(shù)圖法編碼樹(shù)根編碼深度u1：1u2：01u3：001u4：00011

0u1u2u3u41

1

1

00【例3.4】用樹(shù)圖法表示表3-2中的碼3，如圖3-3所示（D=2）。

碼奇異碼非奇異碼非惟一可譯碼惟一可譯碼變長(zhǎng)碼等長(zhǎng)碼即時(shí)碼延長(zhǎng)碼

圖3-5碼的分類結(jié)構(gòu)圖

圖3-5是碼的分類結(jié)構(gòu)圖

由上面的結(jié)構(gòu)圖可看出，將碼分為奇異碼和非奇異碼兩大類，我們只討論非奇異碼。非奇異碼又分為惟一可譯碼和非惟一可譯碼兩大類，我們只討論惟一可譯碼。

3.1.2平均碼長(zhǎng)的計(jì)算對(duì)于變長(zhǎng)碼，碼集C的平均碼長(zhǎng)，用符號(hào)表示，定義為碼C中每個(gè)碼字cm(m=1,2,…，M)其碼長(zhǎng)的概率加權(quán)平均值為 (3-1)式中nm是碼字cm所對(duì)應(yīng)的碼字的長(zhǎng)度，p(cm

)是碼字cm出現(xiàn)的概率。對(duì)于等長(zhǎng)碼，由于碼集C中的每個(gè)碼字的碼長(zhǎng)都相同，平均碼長(zhǎng)就等于每個(gè)碼字的碼長(zhǎng)N次擴(kuò)展碼的平均碼長(zhǎng)等于擴(kuò)展碼中碼字長(zhǎng)度的概率加權(quán)平均值。對(duì)于2次擴(kuò)展碼，有：

(3-2)設(shè)nm,

ns分別是原信源消息um,

us所對(duì)應(yīng)的碼長(zhǎng),

cm,

cs是um,

us所對(duì)應(yīng)的碼字，則式(3-2)中的nm+ns是擴(kuò)展后新的信源序列nmns所對(duì)應(yīng)的碼字cmcs的長(zhǎng)度；q(um)q(us)是cmcs出現(xiàn)的概率。3.1.3信息傳輸速率信道的信息傳輸速率為信道單位時(shí)間內(nèi)所傳輸?shù)膶?shí)際信息量。若信息量以比特為單位，時(shí)間以秒為單位，則信息傳輸率定義為： (比特/秒)(3-3)若信息量以比特為單位，時(shí)間以碼元時(shí)間（傳輸一個(gè)碼符號(hào)的時(shí)間）為單位，則信息傳輸率記為

(比特/碼元時(shí)間) (3-4)

為編碼后的平均碼長(zhǎng)；H(X)為信源熵；式中：t為傳輸一個(gè)碼符號(hào)的時(shí)間?！纠?.8】給定信源，為提高傳輸效率，使平均碼長(zhǎng)盡可能短，遵照概率大取碼長(zhǎng)短，概率小取碼長(zhǎng)長(zhǎng)的原則對(duì)上述信源進(jìn)行二進(jìn)制不等長(zhǎng)編碼，得到，求編碼后的信息傳輸率RD。

（比特/符號(hào)）

（碼元/符號(hào)）

(比特/碼元時(shí)間)3.2等長(zhǎng)碼及等長(zhǎng)編碼定理對(duì)一簡(jiǎn)單信源S進(jìn)行等長(zhǎng)編碼，信源符號(hào)集有K個(gè)符號(hào)，碼符號(hào)集含D個(gè)符號(hào)，碼字長(zhǎng)度記為n。要得到惟一可譯碼，必須滿足K≤Dn信源消息各消息概率碼1碼2碼3碼4u1q(u1)000001u2q(u2)1101110u3q(u3)101000100u4q(u4)1111111000表3-1同一信源的幾種不同編碼3.2等長(zhǎng)碼及等長(zhǎng)編碼定理對(duì)單符號(hào)信源S的L次擴(kuò)展信源S（L）進(jìn)行等長(zhǎng)編碼，要得到長(zhǎng)為n的惟一可譯碼，必須滿足KL

≤Dn（3-5）對(duì)式（3-5）兩邊取對(duì)數(shù)，得（3-6）

對(duì)于那些出現(xiàn)概率極小的字符序列不予編碼，這樣可以減小平均碼長(zhǎng)，當(dāng)然這樣會(huì)帶來(lái)一定的失真。定理3.1

等長(zhǎng)編碼定理

設(shè)離散無(wú)記憶信源S={x1

，x2

，…，xk}的熵為H（X），S的L維擴(kuò)展信源為，對(duì)信源輸出的L長(zhǎng)序列si，i=1,2,…,KL進(jìn)行等長(zhǎng)編碼，碼字是長(zhǎng)度為n的D進(jìn)制符號(hào)串，當(dāng)滿足條件，則L→∞時(shí)，可使譯碼差錯(cuò)率pe<δ(ε、δ為無(wú)窮小量)，反之，當(dāng)時(shí)，則不可能實(shí)現(xiàn)無(wú)差錯(cuò)編碼。編碼效率定理3.1要求，即，可看出比值是一個(gè)小于1的無(wú)量綱純數(shù)，定義它為等長(zhǎng)編碼的編碼效率，記為（3-7）

3.3變長(zhǎng)碼及變長(zhǎng)編碼定理

3.3.1變長(zhǎng)碼對(duì)于變長(zhǎng)碼，往往在L不是很大的情況下就可編出高效且無(wú)失真的碼。變長(zhǎng)碼也要求原碼的任意L次擴(kuò)展碼也是惟一可譯的。變長(zhǎng)碼分為即時(shí)碼和延長(zhǎng)碼，為保證即時(shí)譯碼，要求變長(zhǎng)惟一可譯碼采用即時(shí)碼。對(duì)于變長(zhǎng)碼，要求整個(gè)碼集的平均碼長(zhǎng)力求最小，此時(shí)編碼效率最高。對(duì)于給定信源，使平均碼長(zhǎng)達(dá)到最小的編碼方法，稱為最佳編碼，得到的碼集稱為最佳碼。3.3.2克拉夫特不等式定理3.2

D進(jìn)制碼字集合C={c1,c2,…,cM}，碼集中每一cm（m=1,2,…,M）都是一個(gè)D進(jìn)制符號(hào)串，設(shè)c1,c2,…,cM對(duì)應(yīng)的碼長(zhǎng)分別是n1,n2,…,nM

，則存在唯一可譯碼的充要條件是

(3-10)

式（3-10）也稱克拉夫特不等式

定理3.2只是說(shuō)是存在惟一可譯碼的充要條件，這里強(qiáng)調(diào)的是“存在”，但它并不是唯一可譯碼的充要條件，換言之，惟一可譯碼一定滿足克拉夫特不等式，反之，滿足克拉夫特不等式的碼不一定是惟一可譯碼。

3.3.3變長(zhǎng)編碼定理定理3.3給定熵為H（X）的離散無(wú)記憶信源，及有D個(gè)元素的碼符號(hào)集，則總可找到一種無(wú)失真編碼方法，構(gòu)成惟一可譯碼，其平均碼長(zhǎng)滿足： （3-19）3.3.3變長(zhǎng)編碼定理定理3.4

變長(zhǎng)編碼定理(Shannon第一定理)

給定熵為H（X）的離散無(wú)記憶信源，其L次擴(kuò)展信源的熵記為H（X），給定有D個(gè)元素的碼符號(hào)集，對(duì)擴(kuò)展信源進(jìn)行編碼，總可以找到一種惟一可譯碼，使碼長(zhǎng)滿足(3-23)

記為信源每個(gè)符號(hào)所對(duì)應(yīng)的平均碼字?jǐn)?shù)，則式(3-23)為

（3-24）

Shannon第一定理的物理意義在于：對(duì)信源進(jìn)行編碼，使編碼后的碼集中各碼字盡可能等概分布，如果將這碼集看成為一個(gè)新的信源，這時(shí)新信源所含信息量最大。定義編碼效率(3-26)η是一個(gè)無(wú)量綱的數(shù)，一般情況下η<1，在極限情況下η=1。對(duì)于同一種信源，三種編碼法中以香農(nóng)編碼法的編碼效率最低，費(fèi)諾編碼法也不是一種最佳編碼法，但用這種方法有時(shí)候也能找到緊致碼。一般情況下，霍夫曼編碼法得到的平均碼長(zhǎng)最短，即編碼效率最高。

編碼效率定義為：3.4變長(zhǎng)碼的編碼方法香農(nóng)（Shannon）編碼法費(fèi)諾(Fano)編碼法霍夫曼(Huffman)編碼法變長(zhǎng)編碼法：3.4.1香農(nóng)編碼法

二進(jìn)制香農(nóng)編碼法其碼長(zhǎng)的取值范圍:-logq(xm)

nm<-logq(xm)+1

（3-30）記離散信源，給定有D個(gè)元素的碼符號(hào)集，對(duì)信源進(jìn)行變長(zhǎng)編碼，將各消息概率q(xm)(m=1,2,…,M)寫(xiě)成如下的形式：

取碼長(zhǎng)nm(m=1,2,…,M)

滿足：tm

nm<

tm

+1（3-28）

香農(nóng)編碼法具體步驟如下，（4）計(jì)算出第m個(gè)消息的累加概率，再將pi變換成二進(jìn)制小數(shù)，取小數(shù)點(diǎn)后面nm位作為第m個(gè)消息的代碼組（3）根據(jù)式（3-30）：-logq(xm)

nm<-logq(xm)+1（-logq(xm)為整數(shù)時(shí)取等號(hào)），計(jì)算出每個(gè)消息的二進(jìn)制代碼的長(zhǎng)度nm。（2）計(jì)算出各消息的-logq(xm)值，m=1,2,…,M；

（1）將信源發(fā)出的M個(gè)消息，按其概率遞減順序進(jìn)行排列【例3.14】對(duì)給定信源

進(jìn)行D=2進(jìn)制香農(nóng)編碼。消息符號(hào)ai消息概率qi-log2qi碼長(zhǎng)ni累加概率碼字cia10.22.3430000a20.192.4130.2001a30.182.4830.39011a40.172.5630.57100a50.152.7430.74101a60.103.3440.891110a70.016.6670.991111110

表3-8香農(nóng)編碼

以消息x5為例，對(duì)其進(jìn)行編碼：計(jì)算出-logq(x5)=-log0.15=2.74，取整數(shù)n5=3作為x5的碼字的碼長(zhǎng)，計(jì)算出消息x1,x2,x3,x4累加概率將0.74變換成二進(jìn)制小數(shù)(0.74)10=(0.1011110)2，取小數(shù)點(diǎn)后面三位101作為x5的代碼。

計(jì)算該編碼的編碼效率

先算出信源熵=2.61(比特/符號(hào))平均碼長(zhǎng)=3.14(比特/符號(hào))則編碼效率

3.4.2費(fèi)諾編碼法費(fèi)諾編碼法的具體步驟如下：

（1）信源發(fā)出的M個(gè)消息，按其概率遞減順序進(jìn)行排列，把消息集{

x1,x2,x3,…,xM

}按其概率大小分解成兩個(gè)子集，使兩個(gè)子集的概率之和盡可能接近相等，把第一個(gè)子集編碼為“0”，第二個(gè)子集編碼為“1”，作為代碼組的第一個(gè)碼元；（2）對(duì)子集做第二次分解，同樣分解成兩個(gè)子集，并使兩個(gè)子集的概率盡可能接近相等，再把第一個(gè)子集編碼為“0”，第二個(gè)子集編碼為“1”，作為代碼組的第二個(gè)碼元；

（3）如此一直進(jìn)行下去，直到各子集僅含一個(gè)消息為止

（4）將逐次分解過(guò)程當(dāng)中得到的碼元排列起來(lái)就是各消息的代碼。

【例3.15】對(duì)[例3.14]給出的信源進(jìn)行費(fèi)諾編碼

（1）將信源消息分成兩個(gè)子集{

x1，x2，x3}和{

x4，x5，x6，x7}，兩個(gè)子集的和概率分別為0.2+0.19+0.18=0.57與0.17+0.15+0.10+0.01=0.43，賦予第一個(gè)子集碼元“0”，賦予第二個(gè)子集碼元“1”；

（2）又將子集分成和概率盡可能接近相等的兩個(gè)子集，分別賦予第一個(gè)子集碼元“0”，賦予第二個(gè)子集碼元“1”；

（3）一直進(jìn)行下去，直到每個(gè)子集僅含一個(gè)消息為止。

該編碼的編碼效率：[例3.14]中已算出信源熵H（X）=2.61（比特/符號(hào)）

平均碼長(zhǎng)=2.74則編碼效率：

消息符號(hào)xi消息概率q(xm)第一次分解所得碼元第二次分解所得碼元第三次分解所得碼元第四次分解所得碼元碼字cm碼長(zhǎng)nix10.2

0

0

002x20.19

10

0103x30.181

0113x40.17

10

102x50.15

10

1103x60.10

1011104x70.01111114表3-9費(fèi)諾編碼

3.4.3霍夫曼編碼法設(shè)信源消息數(shù)M

2，記概率分布為，存在D進(jìn)制惟一可譯碼C

={c1,c2,…,cM}，對(duì)應(yīng)的碼長(zhǎng)分別為{n1,n2,…,nM}，不失一般性，設(shè)q(x1)

q(x2)

…q(xM

)，則C

={c1,c2,…,cM}是最佳碼必須具備如下兩條性質(zhì)：1.

n1

n2

…

nM；2.最后（最長(zhǎng)）的D*個(gè)碼字，它們具有相同的前綴c，惟一的區(qū)別是最后一位碼符號(hào)不同，可將這D*個(gè)最長(zhǎng)的碼字分別表示為c·0，c·1，…，c·（D*-1）其中D*∈{2，3，…，D}（3-31）且D*=M[mod(D-1)]（3-32）

定理3.5假定C

*

={c1,c2,…,cM-D’，c

}

為最佳碼，對(duì)應(yīng)概率Q*={q(x1)

,q(x2)

,…,q(xM-D*)，q*

}

其中q*可記為q*=q(xM-D*+1)+q

(xM-D*+2)+…+q(xM)且概率分布滿足q(x1)

q(x2)

…q(xM-D*)q

(xM-D*+1)…q(xM

)則對(duì)應(yīng)概率分布為

Q={q(x1)

,q(x2)

,…,q(xM-D*),

q(xM-D*+1),…,q(xM)

}的最佳碼是C={c1,c2,…,cM-D*,c·0,

c·1,

…,c·(D*-1)}（3）將上述概率之和作為一新消息的概率，與余下的消息一起組成一新的信源，再按概率遞減順序重新排列，如果概率之和與原信源的某個(gè)概率相等，則把概率之和排在上面，這樣可使合并消息重復(fù)編碼的次數(shù)減少，使短碼得到充分利用。（4）如此一直進(jìn)行下去，直到兩個(gè)合并消息的概率之和為1；

（5）從最后一步驟開(kāi)始，沿編碼逆程取下各步驟得到的碼符號(hào)，如此構(gòu)成的碼符號(hào)序列即為對(duì)應(yīng)消息的碼字。

（2）將概率最小的二個(gè)消息分別編碼為“1”和“0”，（一般，將概率大的編碼為“1”，概率小的編碼為“0”），再對(duì)這兩個(gè)消息求概率之和

可以按照如下步驟編碼（先考慮D=2的情況），參見(jiàn)圖3-7

。（1）將信源發(fā)出的M個(gè)消息，按其概率遞減順序進(jìn)行排列，得：q(x1)

q(x2)

q(x3)

…

q(xM

)計(jì)算該編碼的編碼效率：[例3.14]中已算出信源熵H（X）=2.61（比特/符號(hào)）計(jì)算平均碼長(zhǎng)

=2×0.39+3×0.5+4×0.11=2.72則編碼效率

【例3.17】對(duì)[例3.14]給出的信源進(jìn)行D=2進(jìn)制霍夫曼編碼，編碼結(jié)果如圖3-7所示。

a70.01a60.10a50.15a40.17a30.18a20.19a10.200.260.350.390.6110.11010101010101編碼010011111010110011000圖3-7二元霍夫曼編碼例

設(shè)有離散無(wú)記憶信源用兩種不同的方法對(duì)其編二進(jìn)制huffman碼信源符號(hào)xi概率p(xi)碼字Wi1碼長(zhǎng)Ki1碼字Wi2碼長(zhǎng)K’i2x10.411002x20.2012102x30.20003112x40.1001040103x50.1001140113兩種不同的編碼方法得到的碼字和碼長(zhǎng)的對(duì)比兩種不同的編碼方法的平均碼長(zhǎng)相等，所以具有相同的編碼效率。但第