信道編碼定理

1、1信道編碼定理信道編碼定理o錯(cuò)誤概率錯(cuò)誤概率o譯碼準(zhǔn)則譯碼準(zhǔn)則o信道編碼定理信道編碼定理2噪聲信道的編碼問(wèn)題噪聲信道的編碼問(wèn)題o在二進(jìn)制數(shù)字通信系統(tǒng)中，編碼器的編碼過(guò)程分為兩步：把信源的消息數(shù)據(jù)序列編成二進(jìn)制數(shù)字構(gòu)成的碼序列；：把二進(jìn)制數(shù)據(jù)序列編成具有糾檢錯(cuò)能力的二進(jìn)制序列。o由于在構(gòu)造上并未考慮抗干擾，如果把信源編碼器的輸出直接接入信道，由于信道中存在噪聲干擾，將引起誤碼，降低通信可靠性。o因此提出了以提高通信可靠性為主要目的的，它是對(duì)信源編碼器輸出的最佳碼再進(jìn)行一次編碼，以提高其抗干擾能力的一種編碼形式。3信道編譯碼的理論基礎(chǔ)信道編譯碼的理論基礎(chǔ)o信道的特征是由信道傳遞概率信道的特征是由信

2、道傳遞概率p(Y|X)來(lái)描述來(lái)描述的。由的。由p(Y|X)可以算出信道容量可以算出信道容量C，只要在信，只要在信道中實(shí)際傳送的信息率道中實(shí)際傳送的信息率R k）位的碼字。）位的碼字。 重點(diǎn)討論重點(diǎn)討論線性分組碼線性分組碼。n根據(jù)分組碼的結(jié)構(gòu)，又可分為根據(jù)分組碼的結(jié)構(gòu)，又可分為。是將整個(gè)信息序列編成一個(gè)碼序列，碼與是將整個(gè)信息序列編成一個(gè)碼序列，碼與碼之間相互影響，不能分開(kāi)。碼之間相互影響，不能分開(kāi)。卷積碼又稱為樹(shù)碼或卷積碼又稱為樹(shù)碼或鏈碼鏈碼。504 4 漢明距離漢明距離 o定義：設(shè)定義：設(shè) 為兩個(gè)為兩個(gè)n長(zhǎng)的二元碼字，則碼字長(zhǎng)的二元碼字，則碼字X和和Y之間的漢之間的漢明距離為明距離為n其中，

3、其中， 代表模二和運(yùn)算。代表模二和運(yùn)算。n上式的含義是，兩個(gè)碼字之間的漢明距離就是它們上式的含義是，兩個(gè)碼字之間的漢明距離就是它們?cè)谙嗤簧喜煌a符號(hào)的數(shù)目的總和。在相同位上不同碼符號(hào)的數(shù)目的總和。 o舉例：舉例：n設(shè)設(shè) X=(1 0 1 1 1 1 )，Y=(1 1 1 1 0 0 ) ， n則則D(X,Y)=3),(),(2121nnyyyYxxxX1(, )nkkkD X Yxy51漢明距離滿足的性質(zhì)漢明距離滿足的性質(zhì)o1、非負(fù)性、非負(fù)性nD(X,Y)0 當(dāng)且僅當(dāng)當(dāng)且僅當(dāng)X=Y式等號(hào)成立。式等號(hào)成立。o2、對(duì)稱性、對(duì)稱性nD(X,Y)=D(Y,X)o3、三角不等式、三角不等式nD(X,Z

4、)+D(Y,Z) D(X,Y)52最小碼距最小碼距Dmino定義：定義：在二元碼在二元碼C中，任意兩個(gè)碼字的漢明距離的中，任意兩個(gè)碼字的漢明距離的最小值，稱為碼最小值，稱為碼C的最小碼距，即的最小碼距，即o舉例：舉例：設(shè)有設(shè)有n=3n=3的兩組碼的兩組碼n對(duì)于碼對(duì)于碼C C1 1有有n對(duì)于碼對(duì)于碼C C2 2有有100110010101001011000000432121CCCCCCCCCDDjijiji,),(minmin2minD1minD53最小碼距對(duì)錯(cuò)誤概率的影響最小碼距對(duì)錯(cuò)誤概率的影響o顯然，最小碼距顯然，最小碼距Dmin越大，則平均錯(cuò)誤概越大，則平均錯(cuò)誤概率率pE越小。越小。n碼本

5、中最小碼距碼本中最小碼距Dmin越大，受干擾后，越不容越大，受干擾后，越不容易把一個(gè)碼字錯(cuò)譯成另一個(gè)碼字，因而平均錯(cuò)易把一個(gè)碼字錯(cuò)譯成另一個(gè)碼字，因而平均錯(cuò)誤概率誤概率pE小。小。n如果碼本中最小碼距如果碼本中最小碼距Dmin小，受干擾后很容易小，受干擾后很容易把一個(gè)碼字錯(cuò)譯成另一個(gè)碼字，因而平均錯(cuò)誤把一個(gè)碼字錯(cuò)譯成另一個(gè)碼字，因而平均錯(cuò)誤概率概率pE大。大。n因此，在選擇編碼規(guī)則時(shí)，應(yīng)使碼字之間的距因此，在選擇編碼規(guī)則時(shí)，應(yīng)使碼字之間的距離離Dmin越大越好，這樣的準(zhǔn)則即為越大越好，這樣的準(zhǔn)則即為。 54最小距離譯碼準(zhǔn)則最小距離譯碼準(zhǔn)則o定義：定義：選擇譯碼函數(shù)選擇譯碼函數(shù) F( yj ) = x*使使o采用這一準(zhǔn)則時(shí)，只要將接收序列采用這一準(zhǔn)則時(shí)，只要將接收序列yj譯成與譯成與之距離最短的碼字之距離最短的碼字x*即可。即可。iyxDyxDjij對(duì)),(),(min*55最小距離準(zhǔn)則與最大似然準(zhǔn)則的關(guān)系最小距離準(zhǔn)則與最大似然準(zhǔn)則的關(guān)系o最大似然譯碼準(zhǔn)則為：最大似然譯碼準(zhǔn)則為：n選擇譯碼規(guī)則選擇譯碼規(guī)則 使使 p(yj|xi)為似然函數(shù)。為似然函數(shù)。o設(shè)碼字設(shè)碼字xi與與yj的距離為的距離為D，則表示在傳輸過(guò)程中有，則表示在傳輸過(guò)程中有D個(gè)位置發(fā)個(gè)位置發(fā)生錯(cuò)誤，生錯(cuò)誤，(n-D)個(gè)位置沒(méi)有發(fā)生錯(cuò)誤。個(gè)位置沒(méi)有發(fā)生錯(cuò)誤