信息論課件信道編碼

1、第六章第六章 信道編碼信道編碼6.1 譯碼規(guī)則與錯(cuò)誤概率譯碼規(guī)則與錯(cuò)誤概率6.2 典型的譯碼規(guī)則典型的譯碼規(guī)則6.3 平均差錯(cuò)率與信道編碼平均差錯(cuò)率與信道編碼引言引言 信道編碼的目的是改善通信系統(tǒng)的傳輸質(zhì)量。由于實(shí)信道編碼的目的是改善通信系統(tǒng)的傳輸質(zhì)量。由于實(shí)際信道存在噪聲干擾，使發(fā)送的碼字與信道傳輸后接收的際信道存在噪聲干擾，使發(fā)送的碼字與信道傳輸后接收的碼字之間存在差異，這種差異稱為差錯(cuò)。一般情況下，信碼字之間存在差異，這種差異稱為差錯(cuò)。一般情況下，信道噪聲干擾越大，碼字產(chǎn)生差錯(cuò)的概率也就越大。在無(wú)記道噪聲干擾越大，碼字產(chǎn)生差錯(cuò)的概率也就越大。在無(wú)記憶信道中，噪聲獨(dú)立隨機(jī)地影響每個(gè)傳輸碼元

2、，因此接收憶信道中，噪聲獨(dú)立隨機(jī)地影響每個(gè)傳輸碼元，因此接收的碼元序列中的錯(cuò)誤是獨(dú)立隨機(jī)出現(xiàn)的。太空信道、衛(wèi)星的碼元序列中的錯(cuò)誤是獨(dú)立隨機(jī)出現(xiàn)的。太空信道、衛(wèi)星信道、同軸電纜、光纜信道以及大多數(shù)視距微波接力信道信道、同軸電纜、光纜信道以及大多數(shù)視距微波接力信道均屬于這一類型信道。均屬于這一類型信道。引言引言 在有記憶信道中，噪聲干擾的影響往往是前后相關(guān)的，在有記憶信道中，噪聲干擾的影響往往是前后相關(guān)的，錯(cuò)誤會(huì)成串出現(xiàn)。通常稱這類信道為突發(fā)差錯(cuò)信道。典型的錯(cuò)誤會(huì)成串出現(xiàn)。通常稱這類信道為突發(fā)差錯(cuò)信道。典型的有短波信道、移動(dòng)通信信道、散射信道以及受大的脈沖干擾有短波信道、移動(dòng)通信信道、散射信道以及

3、受大的脈沖干擾和串話影響的明線和電纜信道，甚至還包括在磁記錄中，劃和串話影響的明線和電纜信道，甚至還包括在磁記錄中，劃痕、涂層缺損將造成成串的差錯(cuò)。有些實(shí)際信道既有獨(dú)立隨痕、涂層缺損將造成成串的差錯(cuò)。有些實(shí)際信道既有獨(dú)立隨機(jī)差錯(cuò)也有突發(fā)性成串差錯(cuò)，稱它為混合信道。機(jī)差錯(cuò)也有突發(fā)性成串差錯(cuò)，稱它為混合信道。 為降低平均差錯(cuò)率，可先對(duì)消息進(jìn)行編碼再送入信道傳為降低平均差錯(cuò)率，可先對(duì)消息進(jìn)行編碼再送入信道傳送，這種為降低平均差錯(cuò)率進(jìn)行的編碼稱為信道編碼。送，這種為降低平均差錯(cuò)率進(jìn)行的編碼稱為信道編碼。引言引言 其基本思想是根據(jù)一定的規(guī)律在待發(fā)送的信息碼中加入其基本思想是根據(jù)一定的規(guī)律在待發(fā)送的信息碼

4、中加入一些多余的碼元，以保證傳輸過(guò)程的可靠性。信道編碼的任一些多余的碼元，以保證傳輸過(guò)程的可靠性。信道編碼的任務(wù)就是構(gòu)造出以最小多余度代價(jià)換取最大抗干擾性能的務(wù)就是構(gòu)造出以最小多余度代價(jià)換取最大抗干擾性能的“好好碼碼”?？傊诺谰幋a和譯碼就是為了消除噪聲的影響，提?？傊?，信道編碼和譯碼就是為了消除噪聲的影響，提高傳送可靠性。高傳送可靠性。6.1 譯碼規(guī)則與錯(cuò)誤概率譯碼規(guī)則與錯(cuò)誤概率信信道道信道編碼譯碼示意圖信道編碼譯碼示意圖UXYU 譯碼規(guī)則譯碼規(guī)則 信道編碼實(shí)際上就是一個(gè)一一變換信道編碼實(shí)際上就是一個(gè)一一變換f f，信道譯，信道譯碼就是一個(gè)反變換碼就是一個(gè)反變換F F = =f f -1-

5、1，也稱為譯碼函數(shù)，也稱為譯碼函數(shù)( (譯碼譯碼規(guī)則規(guī)則) )。6.1 譯碼規(guī)則與錯(cuò)誤概率譯碼規(guī)則與錯(cuò)誤概率定義：信道譯碼函數(shù)定義：信道譯碼函數(shù)F是從信道輸出符號(hào)集是從信道輸出符號(hào)集B到信道到信道輸入符號(hào)集輸入符號(hào)集A的映射：的映射： F(bj)=ai A ( i =1, 2, r, j =1, 2, s )即將接收符號(hào)即將接收符號(hào)bj譯為某個(gè)輸入符號(hào)譯為某個(gè)輸入符號(hào)ai。YB=b1,b2,bs信道譯碼信道譯碼Fa1a2 arX 信道譯碼器模型信道譯碼器模型X信道信道a1a2 arAA6.1 譯碼規(guī)則與錯(cuò)誤概率譯碼規(guī)則與錯(cuò)誤概率同一個(gè)信道，可有多種譯碼規(guī)則。同一個(gè)信道，可有多種譯碼規(guī)則。譯碼規(guī)

6、則：譯碼規(guī)則：raaabF211)( rsaaabF21)( 共有共有r s種譯碼規(guī)則。種譯碼規(guī)則。raaabF212)( 6.1 譯碼規(guī)則與錯(cuò)誤概率譯碼規(guī)則與錯(cuò)誤概率 0)1(0)0(:111FFF 1)1(0)0(:222FFF 0)1(1)0(:333FFF 1)1(1)0(:444FFF422 sr譯碼規(guī)則共譯碼規(guī)則共4種種01011- -pp1- -pp例例5.1 5.1 對(duì)二進(jìn)制對(duì)稱信道對(duì)二進(jìn)制對(duì)稱信道6.1 譯碼規(guī)則與錯(cuò)誤概率譯碼規(guī)則與錯(cuò)誤概率 在所有的譯碼規(guī)則中，選擇一個(gè)能使平均差錯(cuò)率最小的作在所有的譯碼規(guī)則中，選擇一個(gè)能使平均差錯(cuò)率最小的作為譯碼規(guī)則。為譯碼規(guī)則。2. 2.平

7、均錯(cuò)誤譯碼概率平均錯(cuò)誤譯碼概率ijabF )(輸入輸入 ai譯碼正確譯碼正確輸入為除輸入為除ai以外的符號(hào)以外的符號(hào)譯碼錯(cuò)誤譯碼錯(cuò)誤譯碼正確的概率：譯碼正確的概率： p(ai | bj)=p F(bj) | bj 6.1 譯碼規(guī)則與錯(cuò)誤概率譯碼規(guī)則與錯(cuò)誤概率譯碼錯(cuò)誤的概率：譯碼錯(cuò)誤的概率： p( e | bj)= p(X F(bj)| bj)=1- - p(F(bj)| bj)平均譯碼正確概率：平均譯碼正確概率： sjjjjrbbFpbpP1)| )()(平均譯碼錯(cuò)誤概率平均譯碼錯(cuò)誤概率(平均差錯(cuò)率平均差錯(cuò)率)：) )| )(1)()|()(11sjjjjsjjjebbFpbpbepbpP6.

8、1 譯碼規(guī)則與錯(cuò)誤概率譯碼規(guī)則與錯(cuò)誤概率) )(|()( 1 ),( 1 )| )()(1 ) )| )(1)(1111 sjjjjsjjjsjjjjsjjjjebFbpbFpbbFpbbFpbpbbFpbpP當(dāng)輸入是等概率時(shí)：當(dāng)輸入是等概率時(shí)： pF(bj)= p(ai)=1/r，則，則6.1 譯碼規(guī)則與錯(cuò)誤概率譯碼規(guī)則與錯(cuò)誤概率) )(|(11 ) )(|()( 111 sjjjsjjjjebFbprbFbpbFpP例例5.2 5.2 對(duì)二進(jìn)制對(duì)稱信道對(duì)二進(jìn)制對(duì)稱信道01010.90.90.10.1若若P(0)=0.4，求四種譯碼規(guī)則所對(duì)應(yīng)的平均差錯(cuò)率。，求四種譯碼規(guī)則所對(duì)應(yīng)的平均差錯(cuò)率。

9、6.1 譯碼規(guī)則與錯(cuò)誤概率譯碼規(guī)則與錯(cuò)誤概率解：信道輸入概率矩陣和信道轉(zhuǎn)移概率矩陣為：解：信道輸入概率矩陣和信道轉(zhuǎn)移概率矩陣為： 9 . 01 . 01 . 09 . 0 6 . 0 , 4 . 0|XYXPP聯(lián)合概率矩陣：聯(lián)合概率矩陣： 54. 006. 004. 036. 0 XYP對(duì)于編碼規(guī)則對(duì)于編碼規(guī)則F1： 0)1(0)0(:111FFF6.1 譯碼規(guī)則與錯(cuò)誤概率譯碼規(guī)則與錯(cuò)誤概率6 . 0)04. 036. 0(1)1 , 0()0 , 0(1 )1),1()0),0(1),(1)(211 ppFpFpbbFpFPjjje 1)1(0)0(:222FFF對(duì)于編碼規(guī)則對(duì)于編碼規(guī)則F2

10、：1 . 0)54. 036. 0(1)1 , 1()0 , 0(1 )1),1()0),0(1),(1)(212 ppFpFpbbFpFPjjje6.1 譯碼規(guī)則與錯(cuò)誤概率譯碼規(guī)則與錯(cuò)誤概率 0)1(1)0(:333FFF對(duì)于編碼規(guī)則對(duì)于編碼規(guī)則F3： 1)1(1)0(:444FFF對(duì)于編碼規(guī)則對(duì)于編碼規(guī)則F4：9 . 0)04. 006. 0(1)1 , 0()0 , 1(1 )1),1()0),0(1),(1)(213 ppFpFpbbFpFPjjje6.1 譯碼規(guī)則與錯(cuò)誤概率譯碼規(guī)則與錯(cuò)誤概率4 . 0)54. 006. 0(1)1 , 1()0 , 1(1 )1),1()0),0(1

11、),(1)(214 ppFpFpbbFpFPjjje顯然，譯碼規(guī)則顯然，譯碼規(guī)則F2最好，最好， F3最差。最差。 采用窮舉法可以構(gòu)造給定信道的所有譯碼規(guī)則，從采用窮舉法可以構(gòu)造給定信道的所有譯碼規(guī)則，從中可通過(guò)計(jì)算平均差錯(cuò)率求出平均差錯(cuò)率最小的譯碼中可通過(guò)計(jì)算平均差錯(cuò)率求出平均差錯(cuò)率最小的譯碼規(guī)則，這就是最好的譯碼規(guī)則，但這樣的工作量很大，規(guī)則，這就是最好的譯碼規(guī)則，但這樣的工作量很大，下面介紹求好的譯碼規(guī)則的簡(jiǎn)單方法。下面介紹求好的譯碼規(guī)則的簡(jiǎn)單方法。6.2 典型的譯碼規(guī)則典型的譯碼規(guī)則最佳譯碼規(guī)則：使平均差錯(cuò)率最佳譯碼規(guī)則：使平均差錯(cuò)率Pe達(dá)到最小的譯碼規(guī)則稱為最達(dá)到最小的譯碼規(guī)則稱為最

12、佳譯碼規(guī)則。由平均差錯(cuò)率定義佳譯碼規(guī)則。由平均差錯(cuò)率定義) )| )(1)()|()(11sjjjjsjjjebbFpbpbepbpP可知，要是可知，要是Pe達(dá)到最小，應(yīng)使每個(gè)達(dá)到最小，應(yīng)使每個(gè)p(e|bj)都最小，或使都最小，或使 p(F(bj)| bj )( j=1,2,s )達(dá)到最大，即在后驗(yàn)概率集中達(dá)到最大，即在后驗(yàn)概率集中 p(a1|bj) , p(a2|bj) , , p(ar|bj) 選取一個(gè)最大值，它所對(duì)應(yīng)的輸入符號(hào)選取一個(gè)最大值，它所對(duì)應(yīng)的輸入符號(hào)a*就作為就作為bj的譯碼結(jié)果，的譯碼結(jié)果，即即F(bj)= a*。6.2 典型的譯碼規(guī)則典型的譯碼規(guī)則即最佳譯碼規(guī)則為：即最佳譯

13、碼規(guī)則為： )|()|( )(:* AabapbapB bAabFFijijjj),(),( )|()()|()( )|()|( *jijjijjjjijbapbapbapbpbapbpbapbap 由于由于也稱最大后驗(yàn)概率譯碼規(guī)則。也稱最大后驗(yàn)概率譯碼規(guī)則。6.2 典型的譯碼規(guī)則典型的譯碼規(guī)則也稱最大聯(lián)合概率譯碼規(guī)則。也稱最大聯(lián)合概率譯碼規(guī)則。故最佳譯碼也可寫(xiě)成：故最佳譯碼也可寫(xiě)成： ),(),( )(:* AabapbapB bAabFFijijjj6.2 典型的譯碼規(guī)則典型的譯碼規(guī)則 YaXijiYaXjisjjsjrijisjjjsjjsjjjeabpapbapbapbapbapbpb

14、pbapbpP* 1*111*11*min)|()( ),( ),(),( )|()()( )|(1)(此時(shí)此時(shí)Pe Pe min，由于，由于6.2 典型的譯碼規(guī)則典型的譯碼規(guī)則例例5.3 5.3 對(duì)二進(jìn)制信道對(duì)二進(jìn)制信道01010.80.90.20.1若若P(0)=0.4，求最佳譯碼規(guī)則所對(duì)應(yīng)的平均差錯(cuò)率。，求最佳譯碼規(guī)則所對(duì)應(yīng)的平均差錯(cuò)率。解：信道輸入概率矩陣和信道轉(zhuǎn)移概率矩陣為：解：信道輸入概率矩陣和信道轉(zhuǎn)移概率矩陣為： 9 . 01 . 02 . 08 . 0 6 . 0 , 4 . 0|XYXPP6.2 典型的譯碼規(guī)則典型的譯碼規(guī)則聯(lián)合概率矩陣：聯(lián)合概率矩陣： 54. 006. 00

15、8. 032. 0 XYP 可以看出，與輸入符號(hào)對(duì)應(yīng)的各列最大聯(lián)合概率為可以看出，與輸入符號(hào)對(duì)應(yīng)的各列最大聯(lián)合概率為0.32和和0.54，因此最大聯(lián)合概率譯碼規(guī)則為：，因此最大聯(lián)合概率譯碼規(guī)則為： 1)1(0)0(:FFF即最佳譯碼規(guī)則。即最佳譯碼規(guī)則。6.2 典型的譯碼規(guī)則典型的譯碼規(guī)則14. 0)54. 032. 0(1)1 , 1()0 , 0(1 )0),1()0),0(1),(1)(21 ppFpFpbbFpFPjjje譯碼差錯(cuò)率為：譯碼差錯(cuò)率為：同樣，可采用最大后驗(yàn)概率譯碼規(guī)則：同樣，可采用最大后驗(yàn)概率譯碼規(guī)則： 62. 038. 09 . 01 . 02 . 08 . 0 6 .

16、 0 , 4 . 0 YP 8710. 01579. 01290. 08421. 0|YXP6.2 典型的譯碼規(guī)則典型的譯碼規(guī)則 1)1(0)0(:FFF最大后驗(yàn)概率譯碼規(guī)則：最大后驗(yàn)概率譯碼規(guī)則：兩種方法得到相同的結(jié)果。兩種方法得到相同的結(jié)果。 最大后驗(yàn)概率譯碼規(guī)則又稱為理想觀測(cè)者規(guī)則。最大后驗(yàn)概率譯碼規(guī)則又稱為理想觀測(cè)者規(guī)則。它是選擇這樣一種譯碼函數(shù)，對(duì)于每一個(gè)輸出符號(hào)它是選擇這樣一種譯碼函數(shù)，對(duì)于每一個(gè)輸出符號(hào)bj，j1，2，s均譯成具有最大后驗(yàn)概率的那個(gè)輸均譯成具有最大后驗(yàn)概率的那個(gè)輸入符號(hào)入符號(hào)a*，則信道譯碼錯(cuò)誤概率會(huì)最小。，則信道譯碼錯(cuò)誤概率會(huì)最小。6.2 典型的譯碼規(guī)則典型的譯

17、碼規(guī)則一般來(lái)說(shuō)，后驗(yàn)概率是難以確定的，所以應(yīng)用起來(lái)并一般來(lái)說(shuō)，后驗(yàn)概率是難以確定的，所以應(yīng)用起來(lái)并不方便。所以當(dāng)我們僅知道信道的統(tǒng)計(jì)特性而不知道不方便。所以當(dāng)我們僅知道信道的統(tǒng)計(jì)特性而不知道信源的統(tǒng)計(jì)特性時(shí)，可只按最大轉(zhuǎn)移概率來(lái)確定譯碼信源的統(tǒng)計(jì)特性時(shí)，可只按最大轉(zhuǎn)移概率來(lái)確定譯碼規(guī)則，稱為極大似然譯碼規(guī)則。規(guī)則，稱為極大似然譯碼規(guī)則。 )|()|( )(:* AaabpabpB bAabFFiijjjj6.2 典型的譯碼規(guī)則典型的譯碼規(guī)則 極大似然譯碼規(guī)則的平均差錯(cuò)率不一定是最小，因極大似然譯碼規(guī)則的平均差錯(cuò)率不一定是最小，因此不一定是最佳碼，但容易找到，只要知道信道的統(tǒng)此不一定是最佳碼，但

18、容易找到，只要知道信道的統(tǒng)計(jì)特性即可。計(jì)特性即可。例例5.4 5.4 已知信道的轉(zhuǎn)移概率矩陣如下，試用已知信道的轉(zhuǎn)移概率矩陣如下，試用極大似然極大似然譯碼規(guī)則確定譯碼規(guī)則。譯碼規(guī)則確定譯碼規(guī)則。 4 . 03 . 03 . 05 . 03 . 02 . 02 . 03 . 05 . 0 321|321aaaPbbbXY31)()()(321 apapap6.2 典型的譯碼規(guī)則典型的譯碼規(guī)則解：在信道的轉(zhuǎn)移概率矩陣每一列中選取一個(gè)最大值，解：在信道的轉(zhuǎn)移概率矩陣每一列中選取一個(gè)最大值，確定譯碼規(guī)則。確定譯碼規(guī)則。 5 . 03 . 02 . 04 . 03 . 03 . 02 . 03 . 05

19、 . 0|XYP譯碼規(guī)則：譯碼規(guī)則： 33312211)(), ( )()(:abFaaabFabFF或或6.2 典型的譯碼規(guī)則典型的譯碼規(guī)則 由于已知條件中僅給出了轉(zhuǎn)移概率矩陣，因此無(wú)法由于已知條件中僅給出了轉(zhuǎn)移概率矩陣，因此無(wú)法求出對(duì)應(yīng)的平均差錯(cuò)率。求出對(duì)應(yīng)的平均差錯(cuò)率。 但由于信源輸出序列在進(jìn)入信道前已進(jìn)行了信源編但由于信源輸出序列在進(jìn)入信道前已進(jìn)行了信源編碼碼(主要作用之一是使輸出符號(hào)概率均勻化主要作用之一是使輸出符號(hào)概率均勻化)，經(jīng)過(guò)有，經(jīng)過(guò)有效的信源編碼，信源編碼器的輸出碼元概率分布已經(jīng)效的信源編碼，信源編碼器的輸出碼元概率分布已經(jīng)均勻化，因此信道的輸入分布近似為等概率分布?？删鶆?/p>

20、化，因此信道的輸入分布近似為等概率分布?？梢宰C明當(dāng)輸入等概率分布時(shí)，極大似然譯碼規(guī)則是最以證明當(dāng)輸入等概率分布時(shí)，極大似然譯碼規(guī)則是最佳譯碼規(guī)則。因?yàn)閷?duì)于極大似然譯碼規(guī)則，要求佳譯碼規(guī)則。因?yàn)閷?duì)于極大似然譯碼規(guī)則，要求 )|()|( )(:* AaabpabpB bAabFFiijjjj6.2 典型的譯碼規(guī)則典型的譯碼規(guī)則 當(dāng)信道輸入為等概率時(shí)，有當(dāng)信道輸入為等概率時(shí)，有p(a*)=p(ai)，因此，因此 p(a*) p( bj | a*) p(ai) p( bj | aj) p(a*, bj ) p(ai, bj ) 這就是最大聯(lián)合概率條件。所以，當(dāng)輸入等概率時(shí)，這就是最大聯(lián)合概率條件。所以

21、，當(dāng)輸入等概率時(shí)，極大似然譯碼規(guī)則與最大聯(lián)合概率譯碼規(guī)則等價(jià)，因極大似然譯碼規(guī)則與最大聯(lián)合概率譯碼規(guī)則等價(jià)，因此是最佳碼。平均差錯(cuò)率：此是最佳碼。平均差錯(cuò)率： YaXijYaXijieabprabpapP* min)|(1 )|()(*6.2 典型的譯碼規(guī)則典型的譯碼規(guī)則對(duì)上例，可求出平均差錯(cuò)率：對(duì)上例，可求出平均差錯(cuò)率：)4 . 02 . 0()3 . 03 . 0()2 . 03 . 0(31 )|()(* min YaXijieabpapP6.3 平均差錯(cuò)率與信道編碼平均差錯(cuò)率與信道編碼 僅通過(guò)采用最佳譯碼規(guī)則來(lái)減小平均差錯(cuò)率是有限的，很難僅通過(guò)采用最佳譯碼規(guī)則來(lái)減小平均差錯(cuò)率是有限的，

22、很難滿足信息通信系統(tǒng)的高可靠性要求。要進(jìn)一步降低平均差錯(cuò)率滿足信息通信系統(tǒng)的高可靠性要求。要進(jìn)一步降低平均差錯(cuò)率必須對(duì)信道輸入序列進(jìn)行變換必須對(duì)信道輸入序列進(jìn)行變換 信道編碼，然后送入信道傳送。信道編碼，然后送入信道傳送。例如，對(duì)于如下的信源和信道例如，對(duì)于如下的信源和信道( (不考慮信源編碼，將信源的輸出不考慮信源編碼，將信源的輸出看作信道的輸入看作信道的輸入) )：01010.990.990.010.01 5 . 05 . 010XPX6.3 平均差錯(cuò)率與信道編碼平均差錯(cuò)率與信道編碼 顯然，錯(cuò)誤傳送概率顯然，錯(cuò)誤傳送概率p=0.01，正確傳送概率，正確傳送概率p=0.99，其信道容量為：其

23、信道容量為： C=log2- -H(0.99,0.01) 0.92 bit/符號(hào)符號(hào)就信道本身而言，這樣的信道是很好的。就信道本身而言，這樣的信道是很好的。 如果在信源和信道之間不加信道編碼，由于信道是如果在信源和信道之間不加信道編碼，由于信道是輸入等概率的，可知其極大似然譯碼規(guī)則就是最佳譯輸入等概率的，可知其極大似然譯碼規(guī)則就是最佳譯碼規(guī)則，由轉(zhuǎn)移概率矩陣碼規(guī)則，由轉(zhuǎn)移概率矩陣 99. 001. 001. 099. 0 |XYP6.3 平均差錯(cuò)率與信道編碼平均差錯(cuò)率與信道編碼則極大似然譯碼規(guī)則為：則極大似然譯碼規(guī)則為： 1)1(0)0(:FFF平均差錯(cuò)率：平均差錯(cuò)率：2212110)99.

24、099. 0(21-1 ) )(|(211 ) )(|()( 1 jjjjjjjebFbpbFbpbFpP 顯然，差錯(cuò)率太高，一般平均差錯(cuò)率應(yīng)控制在顯然，差錯(cuò)率太高，一般平均差錯(cuò)率應(yīng)控制在1010-6-6以下，因以下，因此必須使用信道編碼降低平均差錯(cuò)率。此必須使用信道編碼降低平均差錯(cuò)率。 簡(jiǎn)單重復(fù)就是采用對(duì)同一信源符號(hào)進(jìn)行多次重復(fù)編簡(jiǎn)單重復(fù)就是采用對(duì)同一信源符號(hào)進(jìn)行多次重復(fù)編碼。例如，對(duì)二元信源和二進(jìn)制對(duì)稱信道，信道編碼碼。例如，對(duì)二元信源和二進(jìn)制對(duì)稱信道，信道編碼采用對(duì)信源符號(hào)的采用對(duì)信源符號(hào)的2次重復(fù)。次重復(fù)。 5 . 05 . 010UPU0101=0.99=0.99P=0.01P= 0

25、.01pp信道編碼信道編碼fUu1=0u2=1X 3=X1X2X3 1=000 8=111擴(kuò)展擴(kuò)展信道信道Y 3=Y1Y2Y3 1=000 2=001 8=111信道譯碼信道譯碼F 1=000 8=1113213 XXXX3213XXXX 3213YYYY 11100021 0101=0.99=0.99P=0.01P= 0.01pp2次重復(fù)編碼的編碼規(guī)則為：次重復(fù)編碼的編碼規(guī)則為： 111)1(000)0(:fff 顯然，這是碼長(zhǎng)顯然，這是碼長(zhǎng)N=3的定長(zhǎng)編碼，信道的輸入為的定長(zhǎng)編碼，信道的輸入為 1, 8， 經(jīng)過(guò)三次擴(kuò)展信道的傳送，在信道的輸出端經(jīng)過(guò)三次擴(kuò)展信道的傳送，在信道的輸出端可能得到

26、可能得到8個(gè)接收符號(hào)個(gè)接收符號(hào) 1, 2, 8。信道的轉(zhuǎn)移概率矩陣為：信道的轉(zhuǎn)移概率矩陣為： )|()|()|()|()|()|( 88828118121181 ppppppP1 2 8 按極大似然譯碼規(guī)則得譯碼規(guī)則：按極大似然譯碼規(guī)則得譯碼規(guī)則： 2876415321)()()()()()()()( FFFFFFFF 111)111()110()101()011(000)100()010()001()000( FFFFFFFF即即 322222233222222381ppppppppppppppppppppppppppppP 1 2 8 3 4 5 6 7 pp 因?yàn)橐驗(yàn)?這是一種擇多譯碼方法，即比較接收序列中這是一種擇多譯碼方法，即比較接收序列中0和和1的的