digital communicaiton_6_信道編碼I

1、第6章 信道編碼2021-9-272主要內(nèi)容p基本概念基本概念p線性分組碼線性分組碼p循環(huán)碼循環(huán)碼pBCHBCHp卷積碼卷積碼pTurboTurbo碼碼2021-9-2736.1 用于可靠傳輸和存儲數(shù)據(jù)的編碼 信道編碼的引入移動通信移動通信通信網(wǎng)小張小李2021-9-274衛(wèi)星通信衛(wèi)星通信2021-9-275無線傳感網(wǎng)無線傳感網(wǎng)n信息技術(shù)領(lǐng)域的研究熱點，融合了傳感器、計信息技術(shù)領(lǐng)域的研究熱點，融合了傳感器、計算機科學(xué)、信號與信息處理、通信等多個領(lǐng)域算機科學(xué)、信號與信息處理、通信等多個領(lǐng)域的技術(shù)。的技術(shù)。n應(yīng)用范圍廣泛：軍事應(yīng)用、工業(yè)監(jiān)視與控制、應(yīng)用范圍廣泛：軍事應(yīng)用、工業(yè)監(jiān)視與控制、環(huán)境監(jiān)測、

2、醫(yī)療監(jiān)護、智能家居環(huán)境監(jiān)測、醫(yī)療監(jiān)護、智能家居/建筑、倉儲建筑、倉儲/物流管理、交通控制管理、精細(xì)農(nóng)業(yè)、消費電物流管理、交通控制管理、精細(xì)農(nóng)業(yè)、消費電子等。子等。2021-9-276無線傳感網(wǎng)無線傳感網(wǎng) 2021-9-277p通信的目的在于通信的目的在于傳輸信息傳輸信息p通信系統(tǒng)主要質(zhì)量指標(biāo)是通信的通信系統(tǒng)主要質(zhì)量指標(biāo)是通信的有效性和可靠性有效性和可靠性p在實際信道上傳輸信號時，由于信道傳輸特性不在實際信道上傳輸信號時，由于信道傳輸特性不理想及噪聲的影響，接收端收到的信號不可避免理想及噪聲的影響，接收端收到的信號不可避免地會發(fā)生錯誤地會發(fā)生錯誤發(fā)送端發(fā)送端接收端接收端干擾干擾2021-9-27

3、8p隨著差錯控制編碼理論的完善和數(shù)字電路技術(shù)的隨著差錯控制編碼理論的完善和數(shù)字電路技術(shù)的發(fā)展，信道編碼不僅應(yīng)用于各種通信系統(tǒng)中，在發(fā)展，信道編碼不僅應(yīng)用于各種通信系統(tǒng)中，在計算機存儲、運算系統(tǒng)以及超大規(guī)模集成電路的計算機存儲、運算系統(tǒng)以及超大規(guī)模集成電路的設(shè)計中也得到日益廣泛的應(yīng)用。設(shè)計中也得到日益廣泛的應(yīng)用。2021-9-279 信道編碼是在數(shù)據(jù)傳輸信道編碼是在數(shù)據(jù)傳輸/ /存儲中所采用存儲中所采用的的降低系統(tǒng)差錯率，提高系統(tǒng)可靠性降低系統(tǒng)差錯率，提高系統(tǒng)可靠性的一種數(shù)字處理技術(shù)。的一種數(shù)字處理技術(shù)。2021-9-2710p通過對信息碼元序列作某種變換通過對信息碼元序列作某種變換, ,即即增

4、加增加一一定數(shù)量的多余碼元，使原來彼此相互獨立、定數(shù)量的多余碼元，使原來彼此相互獨立、沒有關(guān)聯(lián)的信息碼元沒有關(guān)聯(lián)的信息碼元, ,經(jīng)過變換后經(jīng)過變換后, ,產(chǎn)生某產(chǎn)生某種規(guī)律性或相關(guān)性種規(guī)律性或相關(guān)性, ,從而在接收端可根據(jù)這從而在接收端可根據(jù)這種規(guī)律性來檢查、糾正傳輸序列中的差錯。種規(guī)律性來檢查、糾正傳輸序列中的差錯。p編碼的實質(zhì)編碼的實質(zhì)利用冗余降低差錯概率。利用冗余降低差錯概率。2021-9-27111.1 用于可靠傳輸和存儲數(shù)據(jù)的編碼 信道編碼的基本思想p舉例：舉例：ASCII碼的偶校驗碼的偶校驗n過程過程ASCII碼：碼：7bit表示符號，例如表示符號，例如“L”的的ASCII是是 0

5、011001偶校驗：使得編碼后輸出的碼字中偶校驗：使得編碼后輸出的碼字中“1”的的個數(shù)為偶數(shù)個數(shù)為偶數(shù) 0011001-00110011接收端驗證接收端驗證“1”的個數(shù)是否為偶數(shù)這一的個數(shù)是否為偶數(shù)這一“規(guī)律規(guī)律”（關(guān)系）是否成立來檢驗錯誤是（關(guān)系）是否成立來檢驗錯誤是否發(fā)生否發(fā)生啟示啟示l需要增加冗余碼元（需要增加冗余碼元（8，7） l監(jiān)督碼元與信息碼元建立了一組關(guān)系監(jiān)督碼元與信息碼元建立了一組關(guān)系 l接收端利用這組關(guān)系檢查和糾正錯誤接收端利用這組關(guān)系檢查和糾正錯誤 2021-9-27126.1 用于可靠傳輸和存儲數(shù)據(jù)的編碼 編碼系統(tǒng)模型信源：輸出的是信息序列（信息碼元）信源：輸出的是信息序

6、列（信息碼元）信道：廣義信道，也稱編碼信道信道：廣義信道，也稱編碼信道2021-9-2713信息序列：信息序列：mi=mi1 , mi2 , mik編碼后的發(fā)送序列：編碼后的發(fā)送序列：Ci=Ci1 , Ci2 , , Cin受到干擾后的接收序列：受到干擾后的接收序列：ri=ri1 , ri2 , rin信息序列：信息序列：mi=mi1 , mi2 , , mik編碼編碼譯碼譯碼發(fā)發(fā)送送端端接接收收端端信道（干擾）信道（干擾）編碼系統(tǒng)模型下的數(shù)字序列變換2021-9-2714三點說明：三點說明：1.1.不可無限的增加冗余碼不可無限的增加冗余碼2.2.盡可能的重現(xiàn)盡可能的重現(xiàn)m m，即，即 使使m

7、 m盡量接近盡量接近m m3.3.編譯碼算法易實現(xiàn)，設(shè)備費用盡量低編譯碼算法易實現(xiàn)，設(shè)備費用盡量低研究各種編碼和譯碼方法是信道編碼所要解決的問題。研究各種編碼和譯碼方法是信道編碼所要解決的問題。噪聲干擾噪聲干擾2021-9-27156.2 錯誤類型與信道模型噪聲干擾噪聲干擾輸入輸入輸出輸出轉(zhuǎn)移概率轉(zhuǎn)移概率2021-9-2716p隨機錯誤和隨機信道隨機錯誤和隨機信道p突發(fā)錯誤和突發(fā)信道突發(fā)錯誤和突發(fā)信道p混合錯誤和混合信道混合錯誤和混合信道2021-9-2717p隨機錯誤和隨機信道隨機錯誤和隨機信道n隨機錯誤：各碼元是否出現(xiàn)錯誤，與前、后碼隨機錯誤：各碼元是否出現(xiàn)錯誤，與前、后碼元是否差錯沒有關(guān)

8、系，每個碼元獨立的按一定元是否差錯沒有關(guān)系，每個碼元獨立的按一定的概率發(fā)生差錯。的概率發(fā)生差錯。一般是由一般是由加性加性高斯白噪聲高斯白噪聲引起的。引起的。n只存在隨機錯誤的信道稱為無記憶信道只存在隨機錯誤的信道稱為無記憶信道/隨機信隨機信道，用信道轉(zhuǎn)移概率來描述。比如，二進制對道，用信道轉(zhuǎn)移概率來描述。比如，二進制對稱信道稱信道BSC和離散無記憶信道和離散無記憶信道DMC。2021-9-2718二進制對稱信道（二進制對稱信道（Binary Symmetric Channel, BSCBinary Symmetric Channel, BSC）P(1/0)=pP(0/1)=pP(1/1)=1-

9、pP(0/0)=1-p輸入符號取值集合輸入符號取值集合 X=0，1輸出符號取值集合輸出符號取值集合 Y=0，10101XYpp1-p1-p2021-9-2719離散無記憶信道離散無記憶信道（Discrete Memoryless Channel, DMC）輸入符號取值集合輸入符號取值集合X=x0, x1,xq-1輸出符號取值集合輸出符號取值集合Y=y0, y1,yQ-1qQ個條件概率：個條件概率：P(yj/xi)=pij其中，其中，i=0,1,q-1; j=0,1,Q-1x0 x1xq-1.y0y1y2.YQ-1P(y0/x0)P(y1/x0)P(y2/x0)P(yQ-1/x0)P(y0/x1

10、)P(y1/x1)P(y2/x1)P(yQ-1/x1)2021-9-2720p突發(fā)錯誤和突發(fā)信道突發(fā)錯誤和突發(fā)信道n突發(fā)錯誤：噪聲對各傳輸碼元的影響不是獨立突發(fā)錯誤：噪聲對各傳輸碼元的影響不是獨立的，從而導(dǎo)致差錯是一連串出現(xiàn)的。的，從而導(dǎo)致差錯是一連串出現(xiàn)的。例如移動通信中信號在某一段時間內(nèi)發(fā)生衰例如移動通信中信號在某一段時間內(nèi)發(fā)生衰落，造成一串差錯；光盤上的一條劃痕等。落，造成一串差錯；光盤上的一條劃痕等。n存在突發(fā)錯誤的信道，稱之為有記憶信道存在突發(fā)錯誤的信道，稱之為有記憶信道/ /突突發(fā)信道。比如，吉爾伯特或發(fā)信道。比如，吉爾伯特或GiGi模型模型雙狀態(tài)雙狀態(tài)一階馬爾可夫鏈模型一階馬爾可

11、夫鏈模型2021-9-2721吉爾伯特模型：吉爾伯特模型：兩個狀態(tài)：兩個狀態(tài)：Good，Bad某一時刻，信道處于兩種狀態(tài)之一某一時刻，信道處于兩種狀態(tài)之一三個主要參數(shù)：三個主要參數(shù)：nPgb：信道由：信道由Good狀態(tài)轉(zhuǎn)到狀態(tài)轉(zhuǎn)到Bad狀態(tài)的概率狀態(tài)的概率nPbg：信道由：信道由bad狀態(tài)轉(zhuǎn)到狀態(tài)轉(zhuǎn)到Good狀態(tài)的概率狀態(tài)的概率nPe ：信道處于：信道處于Bad狀態(tài)下的誤碼率狀態(tài)下的誤碼率2021-9-2722p混合錯誤和混合信道混合錯誤和混合信道n混合錯誤：混合錯誤：既有突發(fā)錯誤又有隨機錯誤。既有突發(fā)錯誤又有隨機錯誤。n突發(fā)錯誤和隨機錯誤并存的信道稱之為突發(fā)錯誤和隨機錯誤并存的信道稱之為混合

12、信混合信道道。2021-9-2723錯誤圖樣：錯誤圖樣： 設(shè)發(fā)送的是序列設(shè)發(fā)送的是序列C C（碼元長度為（碼元長度為n n），通過），通過信道傳輸后，接收端的序列為信道傳輸后，接收端的序列為R R。由于在傳。由于在傳輸過程中受到信道噪聲干擾，輸過程中受到信道噪聲干擾，R R序列中的某序列中的某些元素和些元素和C C序列中的對應(yīng)碼元的值可能不同，序列中的對應(yīng)碼元的值可能不同，如果信道中的噪聲干擾采用二進制序列如果信道中的噪聲干擾采用二進制序列e e表表示，相應(yīng)有錯誤的位取值為示，相應(yīng)有錯誤的位取值為1 1，無錯的位取，無錯的位取值為值為0 0，可得，可得 e=C Re=C R2021-9-272

13、4p例：發(fā)送序列例：發(fā)送序列C C：（：（11111000001111100000），收到的），收到的序列序列R R：（：（10010100001001010000），第二、三、五、），第二、三、五、六位產(chǎn)生了錯誤，因此錯誤圖樣六位產(chǎn)生了錯誤，因此錯誤圖樣e e的二、三、的二、三、五、六位取值為五、六位取值為1 1，即，即e e：(0110110000)(0110110000)p對于突發(fā)信道，錯誤圖樣中，第一個對于突發(fā)信道，錯誤圖樣中，第一個“1 1”和最后一個和最后一個“1 1”之間的碼元總個數(shù)稱為之間的碼元總個數(shù)稱為突突發(fā)長度發(fā)長度，其圖樣稱為突發(fā)圖樣。該例中，其圖樣稱為突發(fā)圖樣。該例中，

14、突發(fā)圖樣是（突發(fā)圖樣是（1101111011），突發(fā)長度為），突發(fā)長度為5 5。2021-9-27256.3 差錯控制的基本方式p反饋重傳方式反饋重傳方式 p前向糾錯方式前向糾錯方式 p混合方式混合方式2021-9-2726p反饋重傳方式反饋重傳方式(Automatic Repeat reQuest, ARQ)n工作原理：發(fā)送端發(fā)送的是檢錯碼，通過信道工作原理：發(fā)送端發(fā)送的是檢錯碼，通過信道傳輸?shù)浇邮斩?，接收端譯碼器只需根據(jù)編碼規(guī)傳輸?shù)浇邮斩?，接收端譯碼器只需根據(jù)編碼規(guī)則判斷是否有錯誤，并把判決信號通過反饋信則判斷是否有錯誤，并把判決信號通過反饋信道送回發(fā)送端。發(fā)送端根據(jù)判決信號將收端認(rèn)道送回

15、發(fā)送端。發(fā)送端根據(jù)判決信號將收端認(rèn)為有錯誤的重新發(fā)送，直到接收端檢查無誤為為有錯誤的重新發(fā)送，直到接收端檢查無誤為止。止。2021-9-2727發(fā)端發(fā)端收端收端檢錯碼檢錯碼判決信號判決信號p反饋重傳方式反饋重傳方式(Automatic Repeat reQuest, ARQ)n分為兩類：等待式和連續(xù)式分為兩類：等待式和連續(xù)式2021-9-2728優(yōu)點：優(yōu)點：1.1.譯碼設(shè)備簡單譯碼設(shè)備簡單2.2.糾錯能力強糾錯能力強3.3.對信道的適應(yīng)性強對信道的適應(yīng)性強信源信源編碼器和緩存器編碼器和緩存器重發(fā)控制重發(fā)控制雙雙向向信信道道反饋控制器反饋控制器檢錯碼檢錯碼譯碼器譯碼器信宿信宿缺點：缺點：1.1.

16、需反饋信道需反饋信道2.2.控制電路復(fù)雜控制電路復(fù)雜3.3.傳送信息的實時性、傳送信息的實時性、連貫性差連貫性差緩存器緩存器ARQ通信系統(tǒng)組成通信系統(tǒng)組成2021-9-2729p前向糾錯方式前向糾錯方式 (Forward Error Correction, FEC)n工作原理：發(fā)送端發(fā)送能糾正錯誤的碼字，在工作原理：發(fā)送端發(fā)送能糾正錯誤的碼字，在接收端根據(jù)接收到的碼字和編碼規(guī)則，能自動接收端根據(jù)接收到的碼字和編碼規(guī)則，能自動糾正傳輸中的錯誤糾正傳輸中的錯誤。n不需要反饋信道，實時性好。不需要反饋信道，實時性好。n隨著糾錯能力的提高，編譯碼設(shè)備復(fù)雜。隨著糾錯能力的提高，編譯碼設(shè)備復(fù)雜。2021-

17、9-2730p混合方式混合方式 (Hybrid Error Correction, HEC)n工作原理：結(jié)合前向糾錯和工作原理：結(jié)合前向糾錯和ARQ的系統(tǒng)，在糾的系統(tǒng)，在糾錯能力范圍內(nèi)，自動糾正錯誤，超出糾錯范圍錯能力范圍內(nèi)，自動糾正錯誤，超出糾錯范圍則要求發(fā)送端重新發(fā)送。則要求發(fā)送端重新發(fā)送。n折衷方案。折衷方案。2021-9-27316.4 信道編碼的分類p按差錯控制編碼的不同功能：按差錯控制編碼的不同功能：n檢錯碼：發(fā)現(xiàn)錯誤的碼檢錯碼：發(fā)現(xiàn)錯誤的碼n糾錯碼：自動糾正錯誤的碼糾錯碼：自動糾正錯誤的碼p按信息碼元與附加監(jiān)督碼元間檢驗關(guān)系：按信息碼元與附加監(jiān)督碼元間檢驗關(guān)系：n線性碼線性碼(L

18、inear Code)：監(jiān)督碼元與信息碼元滿：監(jiān)督碼元與信息碼元滿足線性關(guān)系足線性關(guān)系n非線性碼非線性碼(Nonlinear Code)：監(jiān)督碼元與信息：監(jiān)督碼元與信息碼元不滿足線性關(guān)系碼元不滿足線性關(guān)系2021-9-2732p按信息碼元與監(jiān)督碼元間約束方式：按信息碼元與監(jiān)督碼元間約束方式：n分組碼分組碼(Block Code)：信息序列每：信息序列每k位分成一位分成一組，產(chǎn)生組，產(chǎn)生r位監(jiān)督元，輸出長度為位監(jiān)督元，輸出長度為n=r+k的碼字。的碼字。r位監(jiān)督元只與本分組的位監(jiān)督元只與本分組的k位信息元有關(guān)，記為位信息元有關(guān)，記為（n, k）。）。n卷積碼卷積碼(Convolutional C

19、ode)：編碼器給每：編碼器給每k0位信息加上位信息加上r0位監(jiān)督元得到長度為位監(jiān)督元得到長度為n0的碼字。的碼字。該碼字的運算，不僅與本組該碼字的運算，不僅與本組k0位信息有關(guān)，還位信息有關(guān)，還與其前面與其前面m組組k0位信息有關(guān)。稱這種碼為（位信息有關(guān)。稱這種碼為（n0，k0，m）卷積碼。）卷積碼。2021-9-2733p按信息碼元在編碼后是否保持原來的形式：按信息碼元在編碼后是否保持原來的形式：n系統(tǒng)碼、非系統(tǒng)碼系統(tǒng)碼、非系統(tǒng)碼p按糾正錯誤的類型：按糾正錯誤的類型：n糾正隨機錯誤的碼、糾正突發(fā)錯誤的碼糾正隨機錯誤的碼、糾正突發(fā)錯誤的碼p按每個碼元取值：按每個碼元取值：n二進制碼、多進制碼

20、二進制碼、多進制碼2021-9-27342021-9-27356.5 最大后驗與最大似然譯碼根據(jù)編碼規(guī)則，在信息序列基根據(jù)編碼規(guī)則，在信息序列基礎(chǔ)上增加監(jiān)督碼元，生成碼字礎(chǔ)上增加監(jiān)督碼元，生成碼字根據(jù)一套譯碼規(guī)則，由接收序列根據(jù)一套譯碼規(guī)則，由接收序列 r 給出與發(fā)送序列給出與發(fā)送序列m最接近最接近（最好是相同）的估值序列（最好是相同）的估值序列m已知條件：已知條件：1）實際接收的碼字）實際接收的碼字r （必要條件）（必要條件）2）發(fā)送端采用的編碼方法和該方法產(chǎn)生的碼集）發(fā)送端采用的編碼方法和該方法產(chǎn)生的碼集Xn（必要條件）（必要條件）3）信道模型和信道參數(shù)（并非必要條件）信道模型和信道參數(shù)（

21、并非必要條件）2021-9-2736p編碼：編碼： m=cp譯碼：譯碼： r =c=mp由于信息序列與碼字之間存在一一對應(yīng)關(guān)由于信息序列與碼字之間存在一一對應(yīng)關(guān)系，所以等價于譯碼器根據(jù)系，所以等價于譯碼器根據(jù)r產(chǎn)生一個產(chǎn)生一個c的的估值序列估值序列c。顯然當(dāng)且僅當(dāng)。顯然當(dāng)且僅當(dāng)c=c時，時，m=m，此時譯碼器正確譯碼。此時譯碼器正確譯碼。2021-9-2737對于輸入對于輸入r，譯碼器在，譯碼器在2k個碼字中選擇一個使個碼字中選擇一個使 最大的碼字最大的碼字c*作為作為c的估值序列的估值序列c，會使譯碼輸出錯誤概，會使譯碼輸出錯誤概率最小，這種譯碼準(zhǔn)則為最大后驗譯碼。率最小，這種譯碼準(zhǔn)則為最大

22、后驗譯碼。p最大后驗譯碼最大后驗譯碼 (Maximum APosteriori, MAP)對于給定接收序列對于給定接收序列r r，譯碼器的條件譯碼錯誤概，譯碼器的條件譯碼錯誤概率為：率為：譯碼錯誤概率最小，有譯碼錯誤概率最小，有min( | )min( | )max( | )P e rP cc rP cc r( *| )P cr( | )( | )P e rP cc r2021-9-2738p最大后驗譯碼最大后驗譯碼 (Maximum APosteriori, MAP)n是最優(yōu)的譯碼算法，所以也稱最佳譯碼是最優(yōu)的譯碼算法，所以也稱最佳譯碼n但是實際譯碼時，定量地找出后驗概率值很困但是實際譯碼時

23、，定量地找出后驗概率值很困難難n通常情況下，可以知道信道的前向（發(fā)通常情況下，可以知道信道的前向（發(fā)-收）收）轉(zhuǎn)移概率，比如轉(zhuǎn)移概率，比如BSC信道模型中的信道模型中的p2021-9-27391.5 最大后驗與最大似然譯碼p最大似然譯碼最大似然譯碼 (Maximum Likelihood Decoding, MLD) 由條件概率，可推出由條件概率，可推出 若發(fā)送端發(fā)送每個碼字的概率若發(fā)送端發(fā)送每個碼字的概率P(c*)均相同，且均相同，且由于由于P(r)與譯碼方法無關(guān)，所以與譯碼方法無關(guān)，所以 max( *| )max( | *)P crP r c ( *| )( | *) ( *)/( )P

24、crP r cP cP r1.1.如果發(fā)送端發(fā)送每個碼字的概率相同，最大似然如果發(fā)送端發(fā)送每個碼字的概率相同，最大似然譯碼等價于最大后驗譯碼。譯碼等價于最大后驗譯碼。2.2.譯碼器對于輸入譯碼器對于輸入r r，在，在2 2k k個碼字中選擇一個使似然個碼字中選擇一個使似然概率概率 最大的碼字最大的碼字c c* *作為作為c c的估值序列的估值序列c c。( / *)P r c2021-9-2740p最大似然譯碼最大似然譯碼 (MLD)對于無記憶信道，碼字的似然函數(shù)等于組成碼字對于無記憶信道，碼字的似然函數(shù)等于組成碼字的各碼元的似然函數(shù)之積，即若的各碼元的似然函數(shù)之積，即若r=(r1,r2, r

25、n), c=(c1,c2, ,cn)碼字最大似然函數(shù)也就是各碼元似然函數(shù)之積的碼字最大似然函數(shù)也就是各碼元似然函數(shù)之積的最大化最大化 njjjcrPcrP1/njjjcrPcrP1/max/max2021-9-27416.6 信道編碼的概念與原理p香農(nóng)信道編碼定理香農(nóng)信道編碼定理p性能指標(biāo)性能指標(biāo)2021-9-2742p香農(nóng)信道編碼定理香農(nóng)信道編碼定理 對于一個給定的有擾信道，若信道的容量為C，只要發(fā)送端以低于C的速率發(fā)送信息，則一定存在一種編碼方法，使譯碼錯誤概率P隨著碼長n的增加，按指數(shù)下降到任意小的值，表示為 這里E(R)稱為可靠性函數(shù)。()nE RPe2021-9-2743定理告訴我們

26、：定理告訴我們：p當(dāng)信息速率小于信道容量時，總存在一種當(dāng)信息速率小于信道容量時，總存在一種編碼方式使差錯率低于任一給定值編碼方式使差錯率低于任一給定值；p為減小差錯概率，可增大碼長為減小差錯概率，可增大碼長n或增大或增大E(R) 增大增大E(R)可：可：n可以增大信道容量；（增大帶寬、增大功率、可以增大信道容量；（增大帶寬、增大功率、降低噪聲）降低噪聲）n減小碼率；減小碼率；2021-9-2744bSE C(bit/s) （1）0NN Bp香農(nóng)限香農(nóng)限如果以最大速率即信道容量如果以最大速率即信道容量C C來傳遞信息，每傳來傳遞信息，每傳1b1b所需的能量為所需的能量為EbEb，總的信號功率為，

27、總的信號功率為2C = Blog1+S / N噪聲功率為：噪聲功率為：代入式（代入式（1 1），得），得20CC Eb=log1+BB N（2）2021-9-2745為了說明歸一化信道容量為了說明歸一化信道容量C/B與取得該容量所需信與取得該容量所需信噪比噪比Eb/N0之間的關(guān)系，對（之間的關(guān)系，對（2）變換，得：）變換，得：1.當(dāng)當(dāng) ，上式右側(cè)的分子分母增幅比是，上式右側(cè)的分子分母增幅比是指數(shù)，說明隨著信道容量的增加，對信噪比的指數(shù)，說明隨著信道容量的增加，對信噪比的要求是指數(shù)上升的。要求是指數(shù)上升的。 C/ B0Eb2-1=NC / BC / B 2021-9-2746為了說明歸一化信道容

28、量為了說明歸一化信道容量C/B與取得該容量所需信與取得該容量所需信噪比噪比Eb/N0之間的關(guān)系，對（之間的關(guān)系，對（2）變換，得：）變換，得：2.當(dāng)當(dāng)C/B=1（每赫茲傳輸（每赫茲傳輸1b）時，）時，Eb/N0=1 ，即，即要求信噪比為要求信噪比為0dB。香農(nóng)限為香農(nóng)限為0dB。C/ B0Eb2-1=NC / B在信道誤比特率在信道誤比特率1010-5-5情況下，情況下，BPSKBPSK系統(tǒng)所需信系統(tǒng)所需信噪比為噪比為9.6dB9.6dB。理論上，通過信道編碼技術(shù)可得。理論上，通過信道編碼技術(shù)可得9.6dB9.6dB的編碼增益。的編碼增益。2021-9-2747為了說明歸一化信道容量為了說明歸

29、一化信道容量C/B與取得該容量所需信與取得該容量所需信噪比噪比Eb/N0之間的關(guān)系，對（之間的關(guān)系，對（2）變換，得：）變換，得：3.當(dāng)當(dāng) ，C/ B0Eb2-1=NC / B0C / B 1.6dBC/W0C/W02-110lg Eb / N=10lglim=C / Wl在在AWGNAWGN信道上，無差錯傳輸所需的信噪比最低信道上，無差錯傳輸所需的信噪比最低是是-1.6dB-1.6dB。l以碼率等于信道容量的最大速率通信時，通過編以碼率等于信道容量的最大速率通信時，通過編碼可以降低對信道信噪比的要求，但最低不能低于碼可以降低對信道信噪比的要求，但最低不能低于-1.6dB-1.6dB。2021

30、-9-2748p性能指標(biāo)性能指標(biāo)n編碼增益編碼增益n編碼效率編碼效率2021-9-2749p性能指標(biāo)性能指標(biāo)n編碼增益編碼增益=編碼增益反映的是一定誤碼率要求下具體的編碼增益反映的是一定誤碼率要求下具體的編碼方案對信噪比的改善程度。編碼方案對信噪比的改善程度。00/10log/bbENEN未編碼時達到一定性能時所需的編碼時達到一定性能時所需要的2021-9-275000 /bucbcGENEN已編碼已編碼Eb /No（dB）010-610-410-2Pb未編碼未編碼1c2c=c1-c22021-9-2751p性能指標(biāo)性能指標(biāo)n編碼效率編碼效率 分組碼（分組碼（n，k），）， R表明了信息元在碼

31、字中表明了信息元在碼字中所占的比重，是衡量編碼有效性的基本參數(shù)。所占的比重，是衡量編碼有效性的基本參數(shù)。n-k個監(jiān)督位，監(jiān)督位越多，糾錯能力越強，個監(jiān)督位，監(jiān)督位越多，糾錯能力越強，編碼效率越低。編碼效率越低。n越大，編、譯碼延時越大。越大，編、譯碼延時越大。Rkn2021-9-2752p香農(nóng)信道編碼定理香農(nóng)信道編碼定理p性能指標(biāo)性能指標(biāo)2021-9-2753p分組碼及參數(shù)分組碼及參數(shù)n分組碼：將信息序列分成分組碼：將信息序列分成k k位一組，按照一定位一組，按照一定的校驗關(guān)系增加的校驗關(guān)系增加r r位校驗位，構(gòu)成位校驗位，構(gòu)成n(n=k+r)n(n=k+r)位位碼分組，稱為碼字碼分組，稱為碼

32、字（Code wordsCode words ) )，所有可能碼，所有可能碼字構(gòu)成的集合稱為一個分組碼，記為字構(gòu)成的集合稱為一個分組碼，記為(n,k)(n,k)分分組碼組碼n分組碼的校驗關(guān)系僅限于一個碼分組之內(nèi)分組碼的校驗關(guān)系僅限于一個碼分組之內(nèi)2021-9-2754p分組碼及參數(shù)分組碼及參數(shù)n主要參數(shù)：主要參數(shù)：信息分組：信息分組：m=(mm=(mk-1k-1 m mk-2k-2 m m1 1 m m0 0) )碼字：碼字：C=(cC=(cn-1n-1 c cn-2n-2 c c1 1 c c0 0) )碼長碼長n n，信息位個數(shù)，信息位個數(shù)k k，校驗位個數(shù)，校驗位個數(shù)r=n-kr=n-k

33、碼字個數(shù)碼字個數(shù)( (二進制二進制) )：2 2k k編碼效率：編碼效率：R=k/nR=k/n2021-9-2755p許用碼組、禁用碼組許用碼組、禁用碼組n（n，k）碼中有）碼中有2k個個n重碼字。但是重碼字。但是n bit的二的二進制序列具有進制序列具有2n種不同的組合序列；種不同的組合序列；n分組碼的編碼規(guī)則就是從分組碼的編碼規(guī)則就是從2n種不同序列中選擇種不同序列中選擇2k個碼字，建立信息序列與碼字的對應(yīng)關(guān)系；個碼字，建立信息序列與碼字的對應(yīng)關(guān)系；這2k個碼字組成的集合稱為許用碼組，剩余的2n-2k個n重向量組成的集合稱為禁用碼組。2021-9-2756p碼重、碼距碼重、碼距n 碼重：碼

34、字中非碼重：碼字中非0碼元的個數(shù)，又稱漢明碼元的個數(shù)，又稱漢明重量。重量。 例如碼字例如碼字 x=(11000)，則碼重，則碼重w(x)=2n 碼距：碼字碼距：碼字x與碼字與碼字y對應(yīng)位取值不同的對應(yīng)位取值不同的個數(shù)，又稱為漢明距離。個數(shù)，又稱為漢明距離。 例如：例如：x=(10111101)，y=(01110101) 2021-9-2757n漢明距離與漢明重量的關(guān)系漢明距離與漢明重量的關(guān)系二進制二進制n n重向量：重向量： C=(cC=(cn-1n-1, ,c,c1 1,c,c0 0) )，R=(rR=(rn-1n-1, ,r,r1 1,r,r0 0) ) 則有：則有：d(C,R) = w(

35、C+R)d(C,R) = w(C+R)其中：其中：C+R=(cC+R=(cn-1n-1+r+rn-1n-1, ,c,c1 1+r+r1 1,c,c0 0+r+r0 0) )n例如：例如：C=(10110011), R=(01011011)則：則：d(C,R)=w(C+R)=w(11101000)=2021-9-2758p重量分布重量分布( (重量譜重量譜) )n基本概念：基本概念：(n,k)(n,k)分組碼是一組分組碼是一組n n重向量的集合，重向量的集合，設(shè)設(shè)A Ai i表示該碼中漢明重量為表示該碼中漢明重量為 i i 的碼字的個數(shù)，的碼字的個數(shù)，則則A=AA=A0 0,A,A1 1, ,A

36、,An n 稱為該稱為該(n,k)(n,k)分組碼的重分組碼的重量分布。量分布。n例如：例如：(2,1)重復(fù)碼，重復(fù)碼，00,11 A=1,0,1 (3,1)重復(fù)碼，重復(fù)碼，000,111 A = 1,0,0,1 (3,2)碼，碼，000,011,101,110 則：則：A = 1,0,3,02021-9-2759p最小碼距（最小漢明距離）最小碼距（最小漢明距離）n最小碼距：（最小碼距：（n，k）分組碼中，任何兩個碼字）分組碼中，任何兩個碼字之間距離的最小值，稱為該分組碼的最小漢明之間距離的最小值，稱為該分組碼的最小漢明距離，簡稱最小距離，用距離，簡稱最小距離，用d表示。表示。n最小碼距描述分

37、組碼特性的重要參量，決定了最小碼距描述分組碼特性的重要參量，決定了碼的糾錯、檢錯性能碼的糾錯、檢錯性能。n(n,k)分組碼通常也記為分組碼通常也記為(n,k,d)分組碼。分組碼。2021-9-2760p最小碼距（最小漢明距離）最小碼距（最小漢明距離）例例： (2,1)重復(fù)碼，重復(fù)碼，00,11 d=？ (3,1)重復(fù)碼，重復(fù)碼，000,111d=？(4,1)重復(fù)碼，重復(fù)碼，0000, 1111 d=？2021-9-2761p最小漢明距離譯碼最小漢明距離譯碼n準(zhǔn)則：在許用碼組中，判斷與接收序列準(zhǔn)則：在許用碼組中，判斷與接收序列r “最近最近”的碼字為發(fā)送碼字的碼字為發(fā)送碼字n對于對于BSC信道，

38、最小距離譯碼等價于最大似然信道，最小距離譯碼等價于最大似然譯碼譯碼 2021-9-2762例例：一個數(shù)字通信系統(tǒng)的誤碼率：一個數(shù)字通信系統(tǒng)的誤碼率p=10-4,因而收到因而收到一個一個7位碼元的碼字有位碼元的碼字有1位碼元有錯的概率為：位碼元有錯的概率為： 461710711ppCp 52277212.1 10pC pp 433117344157313.5 10413.5 10pC pppC pp 0772877110pC pp2021-9-2763p分組碼的檢糾錯能力分組碼的檢糾錯能力n檢錯能力：一個檢錯能力：一個(n,k)分組碼，如果能檢出碼字分組碼，如果能檢出碼字內(nèi)的所有小于或等于內(nèi)的所

39、有小于或等于e 個個(位位)錯誤，則稱該碼錯誤，則稱該碼的檢錯能力為的檢錯能力為en例例： (2,1)重復(fù)碼，重復(fù)碼，檢錯檢錯能力為能力為 ? (3,1)重復(fù)碼，檢錯重復(fù)碼，檢錯能力為能力為 ? (4,1)重復(fù)碼，檢錯能力為？重復(fù)碼，檢錯能力為？2021-9-2764p分組碼的檢糾錯能力分組碼的檢糾錯能力n碼的最小距離為碼的最小距離為d0 = e+1，其檢錯能力為，其檢錯能力為e。2021-9-2765p分組碼的檢糾錯能力分組碼的檢糾錯能力n糾錯能力：一個糾錯能力：一個(n,k)分組碼，如果能糾正碼字分組碼，如果能糾正碼字內(nèi)的所有小于或等于內(nèi)的所有小于或等于t個個(位位)錯誤，則稱該碼的錯誤，

40、則稱該碼的糾錯能力為糾錯能力為tn例例：(2,1)重復(fù)碼，重復(fù)碼，糾錯糾錯能力為能力為 ?(3,1)重復(fù)碼，糾錯重復(fù)碼，糾錯能力為能力為 ?(4,1)重復(fù)碼，糾錯能力為？重復(fù)碼，糾錯能力為？2021-9-2766p分組碼的檢糾錯能力分組碼的檢糾錯能力n碼的最小距離為碼的最小距離為d0 = 2t+1，其糾錯能力為，其糾錯能力為t。且。且當(dāng)當(dāng)d*=2t+1或或d*=2t+2時，都不能糾正時，都不能糾正t+1個錯個錯誤。誤。2021-9-2767p分組碼的檢糾錯能力分組碼的檢糾錯能力n同時糾檢錯能力：一同時糾檢錯能力：一 (n,k)分組碼，如果能糾正分組碼，如果能糾正碼字內(nèi)的所有小于或等于碼字內(nèi)的所

41、有小于或等于t個個(位位)錯誤，同時又錯誤，同時又能檢出所有小于或等于能檢出所有小于或等于e(e t)個個(位位)錯誤，則錯誤，則稱該碼的同時糾檢錯能力為糾稱該碼的同時糾檢錯能力為糾t個錯同時檢個錯同時檢e個個錯。錯。n例例： (4，1)重復(fù)碼重復(fù)碼 糾糾1個錯同時檢個錯同時檢2個錯個錯2021-9-2768p分組碼的檢糾錯能力分組碼的檢糾錯能力n碼最小碼距碼最小碼距 d0=e+t+1， 其中其中et，該碼能夠，該碼能夠糾糾正正t個錯誤，同時檢測個錯誤，同時檢測e個錯誤。個錯誤。2021-9-2769p分組碼的檢糾錯能力分組碼的檢糾錯能力nd0是分組碼的一個重要參數(shù)，它表明了分組碼是分組碼的一

42、個重要參數(shù)，它表明了分組碼抗干擾能力的大小。設(shè)計碼時，要同時考慮抗干擾能力的大小。設(shè)計碼時，要同時考慮d0和和R。n例例： 重復(fù)碼重復(fù)碼 (2,1) 碼：碼：d0=2, R=1/2，e=1 若與若與ARQ結(jié)合起來，譯碼錯誤概率為結(jié)合起來，譯碼錯誤概率為p2； 2021-9-2770p分組碼的檢糾錯能力分組碼的檢糾錯能力 (3,1)碼：碼：d0=3, R=1/3n 若用來檢錯，若用來檢錯，e=2 與與ARQ結(jié)合，譯碼錯誤概率結(jié)合，譯碼錯誤概率p3 ；n若用來糾錯，若用來糾錯，t=1 采用采用FEC，譯碼錯誤概率為，譯碼錯誤概率為 1-3p (1-p)2+(1-p)3 或或 3p2(1-p)+p3

43、2021-9-2771p分組碼的檢糾錯能力分組碼的檢糾錯能力 (4,1)(4,1)碼：碼： d d0 0=4, R=1/4=4, R=1/4，n若僅用來檢錯，能若僅用來檢錯，能3 3個錯，與個錯，與ARQARQ結(jié)合，譯碼錯結(jié)合，譯碼錯誤概率誤概率p p4 4；n若同時糾檢錯，則能糾若同時糾檢錯，則能糾1 1個錯同時檢個錯同時檢2 2個錯，與個錯，與HECHEC結(jié)合，僅在出現(xiàn)結(jié)合，僅在出現(xiàn)3 3個錯和個錯和4 4個錯時，發(fā)生譯個錯時，發(fā)生譯碼錯誤，因此譯碼錯誤概率為碼錯誤，因此譯碼錯誤概率為 p p4 4+4p+4p3 3(1-p)(1-p)2021-9-2772p分組碼的檢糾錯能力分組碼的檢糾

44、錯能力 (5,1)碼：碼： d0=5, R=1/5n 若僅用來檢錯，能若僅用來檢錯，能4 4個錯，與個錯，與ARQARQ結(jié)合，譯碼結(jié)合，譯碼錯誤概率錯誤概率p p5 5；n若僅糾錯，能糾若僅糾錯，能糾2 2個錯，譯碼錯誤概率：個錯，譯碼錯誤概率：1-1-(1-p)(1-p)5 5+C+C5 51 1p(1-p)p(1-p)4 4+C+C5 52 2p p2 2(1-p)(1-p)3 3 編碼的任務(wù)：編碼的任務(wù)：構(gòu)造出構(gòu)造出R R一定、一定、d d0 0盡可能大的碼；盡可能大的碼；或者或者d d0 0一定、一定、R R盡可能大的碼。盡可能大的碼。2021-9-27736.7 常用的編碼方式p奇偶

45、校驗奇偶校驗(監(jiān)督監(jiān)督)碼碼p水平一致監(jiān)督碼水平一致監(jiān)督碼p水平垂直一致監(jiān)督碼水平垂直一致監(jiān)督碼p群計數(shù)碼群計數(shù)碼p恒比碼（等重碼）恒比碼（等重碼）2021-9-2774p奇偶校驗碼奇偶校驗碼n是是(n,n-1)碼。假設(shè)奇偶校驗碼的碼字表示為碼。假設(shè)奇偶校驗碼的碼字表示為n偶校驗碼：加入監(jiān)督位后，碼字中偶校驗碼：加入監(jiān)督位后，碼字中“1”的個數(shù)的個數(shù)為偶數(shù)個，即所有位的模二和為為偶數(shù)個，即所有位的模二和為0。 （即偶數(shù)個（即偶數(shù)個1）120.0nnccc120(,.,)nnccc2021-9-2775p奇偶監(jiān)督（校驗）碼奇偶監(jiān)督（校驗）碼n奇校驗碼：加入監(jiān)督位后碼字中奇校驗碼：加入監(jiān)督位后碼字

46、中“1”的個數(shù)為的個數(shù)為奇數(shù)個，即所有位的模二和為奇數(shù)個，即所有位的模二和為1。 （即奇數(shù)個（即奇數(shù)個1）n可以檢測任意奇數(shù)個錯誤；可以檢測任意奇數(shù)個錯誤；n構(gòu)造簡單，易于實現(xiàn)，在計算機內(nèi)部數(shù)據(jù)傳送構(gòu)造簡單，易于實現(xiàn)，在計算機內(nèi)部數(shù)據(jù)傳送和輸入輸出設(shè)備中經(jīng)常使用。和輸入輸出設(shè)備中經(jīng)常使用。120.1nnccc2021-9-2776p水平一致監(jiān)督碼水平一致監(jiān)督碼n將原信息序列以適當(dāng)長度排成一行，如每將原信息序列以適當(dāng)長度排成一行，如每k位位信息為一行，設(shè)共有信息為一行，設(shè)共有m行。行。n對每行進行偶（奇）校驗經(jīng)，構(gòu)成對每行進行偶（奇）校驗經(jīng)，構(gòu)成(m(k+1),mk)分組碼分組碼n傳輸時按列傳輸

47、；傳輸時按列傳輸；n譯碼時排成表，檢驗每行的校驗關(guān)系譯碼時排成表，檢驗每行的校驗關(guān)系2021-9-2777p水平一致監(jiān)督碼水平一致監(jiān)督碼n可以發(fā)現(xiàn)所有長度可以發(fā)現(xiàn)所有長度bm的單個突發(fā)錯誤的單個突發(fā)錯誤2021-9-2778p水平垂直一致監(jiān)督碼水平垂直一致監(jiān)督碼n經(jīng)奇偶校驗后的若干碼字排列成矩陣，每個碼經(jīng)奇偶校驗后的若干碼字排列成矩陣，每個碼字排成一行，然后再按列的方向增加垂直校驗字排成一行，然后再按列的方向增加垂直校驗位，就構(gòu)成了二維奇偶校驗碼位，就構(gòu)成了二維奇偶校驗碼(m(k+1)+k,mk)n傳輸時可以按行傳輸，也可以按列傳輸。傳輸時可以按行傳輸，也可以按列傳輸。2021-9-2779p

48、水平垂直一致監(jiān)督碼水平垂直一致監(jiān)督碼2021-9-2780p水平垂直一致監(jiān)督碼水平垂直一致監(jiān)督碼n糾檢錯能力強：糾檢錯能力強：可檢測每一行中奇數(shù)個錯和每一列中奇數(shù)個可檢測每一行中奇數(shù)個錯和每一列中奇數(shù)個錯；錯；二維奇偶碼適用于檢測突發(fā)錯誤。如果采用二維奇偶碼適用于檢測突發(fā)錯誤。如果采用按照列的順序傳輸，可以發(fā)現(xiàn)長度按照列的順序傳輸，可以發(fā)現(xiàn)長度tm+2的的突發(fā)錯；如果按照行的順序傳輸，可以發(fā)現(xiàn)突發(fā)錯；如果按照行的順序傳輸，可以發(fā)現(xiàn)t k+2。n應(yīng)用于穿孔紙帶、磁帶記錄系統(tǒng)中。應(yīng)用于穿孔紙帶、磁帶記錄系統(tǒng)中。2021-9-2781p群計數(shù)碼群計數(shù)碼n將碼字中將碼字中“1”的計數(shù)值作為監(jiān)督碼元的計

49、數(shù)值作為監(jiān)督碼元例如，信息組為例如，信息組為01011，共，共3個個1，用，用011表示，表示，得到得到(8,5)碼。群計數(shù)碼的碼字為碼。群計數(shù)碼的碼字為01011011n檢錯能力很強，除了檢錯能力很強，除了0錯成錯成1和和1錯成錯成0成對發(fā)生成對發(fā)生的情況外，其它形式的錯誤都能發(fā)現(xiàn)。的情況外，其它形式的錯誤都能發(fā)現(xiàn)。n為了降低發(fā)送碼元中的冗余度，有時只傳送計為了降低發(fā)送碼元中的冗余度，有時只傳送計數(shù)碼元中最后幾位。特別的只傳輸最后數(shù)碼元中最后幾位。特別的只傳輸最后1位監(jiān)位監(jiān)督元，則群計數(shù)碼變成奇偶校驗碼督元，則群計數(shù)碼變成奇偶校驗碼2021-9-2782p恒比碼恒比碼n碼字中碼字中“1”和和“0”的個數(shù)保持相同的比例，即的個數(shù)保持相同的比例，即每個碼字中每個碼字中1的個數(shù)相同。的個數(shù)