信道編碼定理

1、1信道編碼定理信道編碼定理o錯誤概率錯誤概率o譯碼準(zhǔn)則譯碼準(zhǔn)則o信道編碼定理信道編碼定理2噪聲信道的編碼問題噪聲信道的編碼問題o在二進制數(shù)字通信系統(tǒng)中，編碼器的編碼過程分為兩步：把信源的消息數(shù)據(jù)序列編成二進制數(shù)字構(gòu)成的碼序列；：把二進制數(shù)據(jù)序列編成具有糾檢錯能力的二進制序列。o由于在構(gòu)造上并未考慮抗干擾，如果把信源編碼器的輸出直接接入信道，由于信道中存在噪聲干擾，將引起誤碼，降低通信可靠性。o因此提出了以提高通信可靠性為主要目的的，它是對信源編碼器輸出的最佳碼再進行一次編碼，以提高其抗干擾能力的一種編碼形式。3信道編譯碼的理論基礎(chǔ)信道編譯碼的理論基礎(chǔ)o信道的特征是由信道傳遞概率信道的特征是由信

2、道傳遞概率p(Y|X)來描述來描述的。由的。由p(Y|X)可以算出信道容量可以算出信道容量C，只要在信，只要在信道中實際傳送的信息率道中實際傳送的信息率R k）位的碼字。）位的碼字。 重點討論重點討論線性分組碼線性分組碼。n根據(jù)分組碼的結(jié)構(gòu)，又可分為根據(jù)分組碼的結(jié)構(gòu)，又可分為。是將整個信息序列編成一個碼序列，碼與是將整個信息序列編成一個碼序列，碼與碼之間相互影響，不能分開。碼之間相互影響，不能分開。卷積碼又稱為樹碼或卷積碼又稱為樹碼或鏈碼鏈碼。504 4 漢明距離漢明距離 o定義：設(shè)定義：設(shè) 為兩個為兩個n長的二元碼字，則碼字長的二元碼字，則碼字X和和Y之間的漢之間的漢明距離為明距離為n其中，

3、其中， 代表模二和運算。代表模二和運算。n上式的含義是，兩個碼字之間的漢明距離就是它們上式的含義是，兩個碼字之間的漢明距離就是它們在相同位上不同碼符號的數(shù)目的總和。在相同位上不同碼符號的數(shù)目的總和。 o舉例：舉例：n設(shè)設(shè) X=(1 0 1 1 1 1 )，Y=(1 1 1 1 0 0 ) ， n則則D(X,Y)=3),(),(2121nnyyyYxxxX1(, )nkkkD X Yxy51漢明距離滿足的性質(zhì)漢明距離滿足的性質(zhì)o1、非負(fù)性、非負(fù)性nD(X,Y)0 當(dāng)且僅當(dāng)當(dāng)且僅當(dāng)X=Y式等號成立。式等號成立。o2、對稱性、對稱性nD(X,Y)=D(Y,X)o3、三角不等式、三角不等式nD(X,Z

4、)+D(Y,Z) D(X,Y)52最小碼距最小碼距Dmino定義：定義：在二元碼在二元碼C中，任意兩個碼字的漢明距離的中，任意兩個碼字的漢明距離的最小值，稱為碼最小值，稱為碼C的最小碼距，即的最小碼距，即o舉例：舉例：設(shè)有設(shè)有n=3n=3的兩組碼的兩組碼n對于碼對于碼C C1 1有有n對于碼對于碼C C2 2有有100110010101001011000000432121CCCCCCCCCDDjijiji,),(minmin2minD1minD53最小碼距對錯誤概率的影響最小碼距對錯誤概率的影響o顯然，最小碼距顯然，最小碼距Dmin越大，則平均錯誤概越大，則平均錯誤概率率pE越小。越小。n碼本

5、中最小碼距碼本中最小碼距Dmin越大，受干擾后，越不容越大，受干擾后，越不容易把一個碼字錯譯成另一個碼字，因而平均錯易把一個碼字錯譯成另一個碼字，因而平均錯誤概率誤概率pE小。小。n如果碼本中最小碼距如果碼本中最小碼距Dmin小，受干擾后很容易小，受干擾后很容易把一個碼字錯譯成另一個碼字，因而平均錯誤把一個碼字錯譯成另一個碼字，因而平均錯誤概率概率pE大。大。n因此，在選擇編碼規(guī)則時，應(yīng)使碼字之間的距因此，在選擇編碼規(guī)則時，應(yīng)使碼字之間的距離離Dmin越大越好，這樣的準(zhǔn)則即為越大越好，這樣的準(zhǔn)則即為。 54最小距離譯碼準(zhǔn)則最小距離譯碼準(zhǔn)則o定義：定義：選擇譯碼函數(shù)選擇譯碼函數(shù) F( yj ) = x*使使o采用這一準(zhǔn)則時，只要將接收序列采用這一準(zhǔn)則時，只要將接收序列yj譯成與譯成與之距離最短的碼字之距離最短的碼字x*即可。即可。iyxDyxDjij對),(),(min*55最小距離準(zhǔn)則與最大似然準(zhǔn)則的關(guān)系最小距離準(zhǔn)則與最大似然準(zhǔn)則的關(guān)系o最大似然譯碼準(zhǔn)則為：最大似然譯碼準(zhǔn)則為：n選擇譯碼規(guī)則選擇譯碼規(guī)則 使使 p(yj|xi)為似然函數(shù)。為似然函數(shù)。o設(shè)碼字設(shè)碼字xi與與yj的距離為的距離為D，則表示在傳輸過程中有，則表示在傳輸過程中有D個位置發(fā)個位置發(fā)生錯誤，生錯誤，(n-D)個位置沒有發(fā)生錯誤。個位置沒有發(fā)生錯誤