信道編碼10-15上課

信道編碼2023/2/52第6章信道編碼目的：了解信道編碼的作用與意義掌握幾種典型的信道編碼、譯碼方法對信道編碼的研究方法和成果有基本認識，為進一步研究打下基礎(chǔ)特點：基本概念、物理意義、基本方法為主2023/2/53主要內(nèi)容基本概念和方法線性分組碼循環(huán)碼（實驗）BCH卷積碼2023/2/546.1用于可靠傳輸和存儲數(shù)據(jù)的編碼信道編碼的引入信道編碼的基本思想編碼系統(tǒng)模型2023/2/556.1用于可靠傳輸和存儲數(shù)據(jù)的編碼

——信道編碼的引入移動通信通信網(wǎng)小張小李2023/2/566.1用于可靠傳輸和存儲數(shù)據(jù)的編碼

——信道編碼的引入通信的目的在于傳輸信息通信系統(tǒng)主要質(zhì)量指標是通信的有效性和可靠性在實際信道上傳輸信號時，由于信道傳輸特性不理想及噪聲的影響，接收端收到的信號不可避免地會發(fā)生錯誤發(fā)送端接收端干擾2023/2/576.1用于可靠傳輸和存儲數(shù)據(jù)的編碼

——信道編碼的引入隨著差錯控制編碼理論的完善和數(shù)字電路技術(shù)的發(fā)展，信道編碼不僅應(yīng)用于各種通信系統(tǒng)中，在計算機存儲、運算系統(tǒng)以及超大規(guī)模集成電路的設(shè)計中也得到日益廣泛的應(yīng)用。2023/2/586.1用于可靠傳輸和存儲數(shù)據(jù)的編碼

——信道編碼的作用

信道編碼是在數(shù)據(jù)傳輸/存儲中所采用的降低系統(tǒng)差錯率，提高系統(tǒng)可靠性的一種數(shù)字處理技術(shù)。2023/2/596.1用于可靠傳輸和存儲數(shù)據(jù)的編碼

——信道編碼的基本思想通過對信息碼元序列作某種變換,即增加一定數(shù)量的多余碼元，使原來彼此相互獨立、沒有關(guān)聯(lián)的信息碼元,經(jīng)過變換后,產(chǎn)生某種規(guī)律性或相關(guān)性,從而在接收端可根據(jù)這種規(guī)律性來檢查、糾正傳輸序列中的差錯。編碼的實質(zhì)——利用冗余降低差錯概率。2023/2/5106.1用于可靠傳輸和存儲數(shù)據(jù)的編碼

——信道編碼的基本思想舉例：ASCII碼的偶校驗過程ASCII碼：7bit表示符號，例如“L”的ASCII是0011001偶校驗：使得編碼后輸出的碼字中“1”的個數(shù)為偶數(shù)

0011001->00110011接收端驗證“1”的個數(shù)是否為偶數(shù)這一“規(guī)律”（關(guān)系）是否成立來檢驗錯誤是否發(fā)生啟示需要增加冗余碼元（8，7）監(jiān)督碼元與信息碼元建立了一組關(guān)系接收端利用這組關(guān)系檢查和糾正錯誤2023/2/5116.1用于可靠傳輸和存儲數(shù)據(jù)的編碼

——編碼系統(tǒng)模型信源：輸出的是信息序列（信息碼元）信道：廣義信道，也稱編碼信道2023/2/512信息序列：mi=[mi1,mi2,…,mik]編碼后的發(fā)送序列：Ci=[Ci1,Ci2,…,Cin]受到干擾后的接收序列：ri=[ri1,ri2,…,rin]信息序列：m’i=[m’i1,m’i2,…,m’ik]編碼譯碼發(fā)送端接收端信道（干擾）編碼系統(tǒng)模型下的數(shù)字序列變換2023/2/5136.1用于可靠傳輸和存儲數(shù)據(jù)的編碼

——編碼系統(tǒng)模型三點說明：1.不可無限的增加冗余碼2.盡可能的重現(xiàn)m，即使m′盡量接近m3.編譯碼算法易實現(xiàn)，設(shè)備費用盡量低研究各種編碼和譯碼方法是信道編碼所要解決的問題。噪聲干擾2023/2/5146.2錯誤類型與信道模型噪聲干擾輸入輸出轉(zhuǎn)移概率2023/2/5156.2錯誤類型與信道模型隨機錯誤和隨機信道突發(fā)錯誤和突發(fā)信道混合錯誤和混合信道2023/2/5166.2錯誤類型與信道模型隨機錯誤和隨機信道隨機錯誤：各碼元是否出現(xiàn)錯誤，與前、后碼元是否差錯沒有關(guān)系，每個碼元獨立的按一定的概率發(fā)生差錯。一般是由加性高斯白噪聲引起的。只存在隨機錯誤的信道稱為無記憶信道/隨機信道，用信道轉(zhuǎn)移概率來描述。比如，二進制對稱信道BSC。2023/2/517二進制對稱信道（BinarySymmetricChannel,BSC）P(1/0)=pP(0/1)=pP(1/1)=1-pP(0/0)=1-p輸入符號取值集合

X={0，1}輸出符號取值集合

Y={0，1}0101XYpp1-p1-p6.2錯誤類型與信道模型2023/2/5186.2錯誤類型與信道模型突發(fā)錯誤和突發(fā)信道突發(fā)錯誤：噪聲對各傳輸碼元的影響不是獨立的，從而導(dǎo)致差錯是一連串出現(xiàn)的。例如移動通信中信號在某一段時間內(nèi)發(fā)生衰落，造成一串差錯；光盤上的一條劃痕等。存在突發(fā)錯誤的信道，稱之為有記憶信道/突發(fā)信道。2023/2/5196.2錯誤類型與信道模型混合錯誤和混合信道混合錯誤：既有突發(fā)錯誤又有隨機錯誤。突發(fā)錯誤和隨機錯誤并存的信道稱之為混合信道。2023/2/520錯誤圖樣：設(shè)發(fā)送的是序列C（碼元長度為n），通過信道傳輸后，接收端的序列為R。由于在傳輸過程中受到信道噪聲干擾，R序列中的某些元素和C序列中的對應(yīng)碼元的值可能不同，如果信道中的噪聲干擾采用二進制序列e表示，相應(yīng)有錯誤的位取值為1，無錯的位取值為0，可得

e=CR6.2錯誤類型與信道模型2023/2/521例：發(fā)送序列C：（1111100000），收到的序列R：（1001010000），第二、三、五、六位產(chǎn)生了錯誤，因此錯誤圖樣e的二、三、五、六位取值為1，即e：(0110110000)對于突發(fā)信道，錯誤圖樣中，第一個“1”和最后一個“1”之間的碼元總個數(shù)稱為突發(fā)長度，其圖樣稱為突發(fā)圖樣。該例中，突發(fā)圖樣是（11011），突發(fā)長度為5。6.2錯誤類型與信道模型2023/2/5226.3差錯控制的基本方式反饋重傳方式前向糾錯方式混合方式2023/2/5236.3差錯控制的基本方式反饋重傳方式(AutomaticRepeatreQuest,ARQ)工作原理：發(fā)送端發(fā)送的是檢錯碼，通過信道傳輸?shù)浇邮斩?，接收端譯碼器只需根據(jù)編碼規(guī)則判斷是否有錯誤，并把判決信號通過反饋信道送回發(fā)送端。發(fā)送端根據(jù)判決信號將收端認為有錯誤的重新發(fā)送，直到接收端檢查無誤為止。2023/2/5246.3差錯控制的基本方式發(fā)端收端檢錯碼判決信號反饋重傳方式(AutomaticRepeatreQuest,ARQ)分為兩類：等待式和連續(xù)式2023/2/5256.3差錯控制的基本方式前向糾錯方式(ForwardErrorCorrection,FEC)工作原理：發(fā)送端發(fā)送能糾正錯誤的碼字，在接收端根據(jù)接收到的碼字和編碼規(guī)則，能自動糾正傳輸中的錯誤。不需要反饋信道，實時性好。隨著糾錯能力的提高，編譯碼設(shè)備復(fù)雜。2023/2/5266.3差錯控制的基本方式混合方式(HybridErrorCorrection,HEC)工作原理：結(jié)合前向糾錯和ARQ的系統(tǒng)，在糾錯能力范圍內(nèi)，自動糾正錯誤，超出糾錯范圍則要求發(fā)送端重新發(fā)送?！壑苑桨?。2023/2/5276.4信道編碼的分類按差錯控制編碼的不同功能：檢錯碼：發(fā)現(xiàn)錯誤的碼糾錯碼：自動糾正錯誤的碼按信息碼元與附加監(jiān)督碼元間檢驗關(guān)系：線性碼(LinearCode)：監(jiān)督碼元與信息碼元滿足線性關(guān)系非線性碼(NonlinearCode)：監(jiān)督碼元與信息碼元不滿足線性關(guān)系2023/2/5286.4信道編碼的分類按信息碼元與監(jiān)督碼元間約束方式：分組碼(BlockCode)：信息序列每k位分成一組，產(chǎn)生r位監(jiān)督元，輸出長度為n=r+k的碼字。r位監(jiān)督元只與本分組的k位信息元有關(guān)，記為（n,k）。卷積碼(ConvolutionalCode)：編碼器給每k0位信息加上r0位監(jiān)督元得到長度為n0的碼字。該碼字的運算，不僅與本組k0位信息有關(guān)，還與其前面m組k0位信息有關(guān)。稱這種碼為（n0，k0，m）卷積碼。2023/2/5296.4信道編碼的分類按信息碼元在編碼后是否保持原來的形式：系統(tǒng)碼、非系統(tǒng)碼按糾正錯誤的類型：糾正隨機錯誤的碼、糾正突發(fā)錯誤的碼按每個碼元取值：二進制碼、多進制碼2023/2/5306.4信道編碼的分類2023/2/5316.5信道編碼定理香農(nóng)信道編碼定理性能指標分組碼及相關(guān)基本概念2023/2/5326.5信道編碼定理香農(nóng)信道編碼定理

對于一個給定的有擾信道，若信道的容量為C，只要發(fā)送端以低于C的速率發(fā)送信息，則一定存在一種編碼方法，使譯碼錯誤概率P隨著碼長n的增加，按指數(shù)下降到任意小的值，表示為 這里E(R)稱為可靠性函數(shù)。2023/2/5336.5信道編碼定理定理告訴我們：當信息速率小于信道容量時，總存在一種編碼方式使差錯率低于任一給定值ε；為減小差錯概率，可增大碼長n或增大E(R)

增大E(R)可：可以增大信道容量；（增大帶寬、增大功率、降低噪聲）減小碼率；2023/2/5346.6線性分組碼分組碼及參數(shù)分組碼：將信息序列分成k位一組，按照一定的校驗關(guān)系增加r位校驗位，構(gòu)成n(n=k+r)位碼分組，稱為碼字（Codewords)，所有可能碼字構(gòu)成的集合稱為一個分組碼，記為(n,k)分組碼分組碼的校驗關(guān)系僅限于一個碼分組之內(nèi)2023/2/5356.6線性分組碼分組碼及參數(shù)主要參數(shù)：信息分組：m=(mk-1mk-2

…m1m0)碼字：C=(cn-1cn-2

…c1c0)碼長n，信息位個數(shù)k，校驗位個數(shù)r=n-k碼字個數(shù)(二進制)：2k編碼效率：R=k/n2023/2/5366.6線性分組碼許用碼組、禁用碼組（n，k）碼中有2k個n重碼字。但是nbit的二進制序列具有2n種不同的組合序列；分組碼的編碼規(guī)則就是從2n種不同序列中選擇2k個碼字，建立信息序列與碼字的對應(yīng)關(guān)系；這2k個碼字組成的集合稱為許用碼組，剩余的2n-2k個n重向量組成的集合稱為禁用碼組。2023/2/5376.6分組碼基本概念碼重、碼距碼重：碼字中非0碼元的個數(shù)，又稱漢明重量。例如碼字x=(11000)，則碼重w(x)=2

碼距：碼字x與碼字y對應(yīng)位取值不同的個數(shù)，又稱為漢明距離。例如：x=(10111101)，y=(01110101)2023/2/5386.6分組碼的基本概念最小碼距（最小漢明距離）最小碼距：（n，k）分組碼中，任何兩個碼字之間距離的最小值，稱為該分組碼的最小漢明距離，簡稱最小距離，用d表示。最小碼距描述分組碼特性的重要參量，決定了碼的糾錯、檢錯性能。(n,k)分組碼通常也記為(n,k,d)分組碼。2023/2/5396.6分組碼的基本概念最小碼距（最小漢明距離）[例]：

(2,1)重復(fù)碼，{00,11}d=？

(3,1)重復(fù)碼，{000,111} d=？

(4,1)重復(fù)碼，{0000,1111} d=？2023/2/5406.6分組碼的基本概念最小漢明距離譯碼準則：在許用碼組中，判斷與接收序列r“最近”的碼字為發(fā)送碼字2023/2/541分組碼的檢糾錯能力分組碼的檢糾錯能力碼的最小距離為d0=

e+1，其檢錯能力為e。2023/2/542分組碼的檢糾錯能力分組碼的檢糾錯能力糾錯能力：一個(n,k)分組碼，如果能糾正碼字內(nèi)的所有小于或等于t個(位)錯誤，則稱該碼的糾錯能力為t2023/2/543分組碼的檢糾錯能力碼的最小距離為d0=

2t+1，其糾錯能力為t。且當d*=2t+1或d*=2t+2時，都不能糾正t+1個錯誤。2023/2/544分組碼的檢糾錯能力分組碼的檢糾錯能力同時糾檢錯能力：一(n,k)分組碼，如果能糾正碼字內(nèi)的所有小于或等于t個(位)錯誤，同時又能檢出所有小于或等于e(e>t)個(位)錯誤，則稱該碼的同時糾檢錯能力為糾t個錯同時檢e個錯。

2023/2/545分組碼的檢糾錯能力碼最小碼距d0=e+t+1，其中e>t，該碼能夠糾正t個錯誤，同時檢測e個錯誤。2023/2/5466.7幾種常用的編碼方式奇偶校驗(監(jiān)督)碼水平一致監(jiān)督碼水平垂直一致監(jiān)督碼群計數(shù)碼恒比碼（等重碼）2023/2/5476.7幾種常用的編碼方式奇偶校驗碼是(n,n-1)碼。假設(shè)奇偶校驗碼的碼字表示為偶校驗碼：加入監(jiān)督位后，碼字中“1”的個數(shù)為偶數(shù)個，即所有位的模二和為0。（即偶數(shù)個1）2023/2/5486.7幾種常用的編碼方式奇偶監(jiān)督（校驗）碼奇校驗碼：加入監(jiān)督位后碼字中“1”的個數(shù)為奇數(shù)個，即所有位的模二和為1。（即奇數(shù)個1）可以檢測任意奇數(shù)個錯誤；構(gòu)造簡單，易于實現(xiàn)，在計算機內(nèi)部數(shù)據(jù)傳送和輸入輸出設(shè)備中經(jīng)常使用。2023/2/5496.7幾種常用的編碼方式水平一致監(jiān)督碼將原信息序列以適當長度排成一行，如每k位信息為一行，設(shè)共有m行。對每行進行偶（奇）校驗經(jīng)，構(gòu)成(m(k+1),mk)分組碼傳輸時按列傳輸；譯碼時排成表，檢驗每行的校驗關(guān)系2023/2/5506.7幾種常用的編碼方式水平一致監(jiān)督碼可以發(fā)現(xiàn)所有長度b≤m的單個突發(fā)錯誤2023/2/5516.7幾種常用的編碼方式水平垂直一致監(jiān)督碼經(jīng)奇偶校驗后的若干碼字排列成矩陣，每個碼字排成一行，然后再按列的方向增加垂直校驗位，就構(gòu)成了二維奇偶校驗碼((m(k+1)+k,mk)傳輸時可以按行傳輸，也可以按列傳輸。2023/2/5526.7幾種常用的編碼方式水平垂直一致監(jiān)督碼2023/2/5536.7幾種常用的編碼方式水平垂直一致監(jiān)督碼糾檢錯能力強：可檢測每一行中奇數(shù)個錯和每一列中奇數(shù)個錯；二維奇偶碼適用于檢測突發(fā)錯誤。如果采用按照列的順序傳輸，可以發(fā)現(xiàn)長度t≤m+2的突發(fā)錯；如果按照行的順序傳輸，可以發(fā)現(xiàn)t≤k+2。應(yīng)用于穿孔紙帶、磁帶記錄系統(tǒng)中。2023/2/5546.7幾種常用的編碼方式群計數(shù)碼將碼字中“1”的計數(shù)值作為監(jiān)督碼元例如，信息組為01011，共3個1，用011表示，得到(8,5)碼。群計數(shù)碼的碼字為01011011檢錯能力很強，除了0錯成1和1錯成0成對發(fā)生的情況外，其它形式的錯誤都能發(fā)現(xiàn)。為了降低發(fā)送碼元中的冗余度，有時只傳送計數(shù)碼元中最后幾位。特別的只傳輸最后1位監(jiān)督元，則群計數(shù)碼變成奇偶校驗碼2023/2/5556.7幾種常用的編碼方式恒比碼碼字中“1”和“0”的個數(shù)保持相同的比例，即每個碼字中1的個數(shù)相同。恒比碼的譯碼可以采用查表方法，檢錯時查1或0的個數(shù)。恒比碼是一種檢錯碼。恒比碼一般用在電報。2023/2/5566.7幾種常用的編碼方式恒比碼例：發(fā)漢字電報時，每個漢字用4位阿拉伯數(shù)字表示，每個阿拉伯數(shù)字用5個比特的碼字表示。由于阿拉伯數(shù)字只有10個，因此從32中可能的碼字中挑出=10個1的個數(shù)為3的碼字作為阿拉伯數(shù)字的編碼方式。阿拉伯數(shù)字編碼阿拉伯數(shù)字編碼1010116101012110017111003101108011104110109100115001110011012023/2/5576.8信道編碼理論的發(fā)展歷史1948年香農(nóng)（Shannon）在其論文《通信中的數(shù)學(xué)理論》中提出有擾信道編碼定理——奠定了信道編碼的基石。50年代至60年代初，信道編碼從無到有得到了迅速的發(fā)展：奠定了線性分組碼的理論基礎(chǔ)；提出了著名的BCH碼編譯碼方法以及卷積碼的序列譯碼。2023/2/5586.8信道編碼理論的發(fā)展歷史60年代至70年代初，信道編碼發(fā)展最