信息論與編碼基礎(chǔ)-教學(xué)課件-5

信息論與編碼基礎(chǔ)信道編碼基本原理一、差錯(cuò)控制系統(tǒng)及其理論基礎(chǔ)二、信道編碼的基本概念三、信道編碼方法的性能評(píng)價(jià)四、常用檢錯(cuò)碼信息論與編碼基礎(chǔ)信道編碼基本原理一、差錯(cuò)控制系統(tǒng)及其理論基礎(chǔ)二、信道編碼的基本概念三、信道編碼方法的性能評(píng)價(jià)四、常用檢錯(cuò)碼1.差錯(cuò)控制的理論基礎(chǔ)1)香農(nóng)第二定理2)近世代數(shù)信息論與編碼基礎(chǔ)信道編碼基本原理2.差錯(cuò)控制的途徑信道編碼定理公式糾錯(cuò)編碼的基本理論利用冗余度噪聲均化信息論與編碼基礎(chǔ)信道編碼基本原理RE(R)0C1C2信息論與編碼基礎(chǔ)信道編碼基本原理交織分組交織信息論與編碼基礎(chǔ)信道編碼基本原理交織分組交織信息論與編碼基礎(chǔ)信道編碼基本原理交織偽隨機(jī)交織器3.差錯(cuò)控制系統(tǒng)1)FEC:糾錯(cuò)碼信息論與編碼基礎(chǔ)信道編碼基本原理實(shí)時(shí)性較好優(yōu)點(diǎn):缺點(diǎn):譯碼復(fù)雜控制電路簡單信道適應(yīng)性較差信息論與編碼基礎(chǔ)2)ARQ:檢錯(cuò)碼判決信息3.差錯(cuò)控制系統(tǒng)信道編碼基本原理信息論與編碼基礎(chǔ)停止-等待式ARQ連續(xù)式ARQ選擇式ARQ3.差錯(cuò)控制系統(tǒng)信道編碼基本原理2)ARQ:信息論與編碼基礎(chǔ)112ACK12хNAK222ACK23W-ARQ3.差錯(cuò)控制系統(tǒng)信道編碼基本原理2)ARQ:信息論與編碼基礎(chǔ)GBN-ARQ12345112345хNAK1234512367х45673453.差錯(cuò)控制系統(tǒng)信道編碼基本原理2)ARQ:信息論與編碼基礎(chǔ)SR-ARQ1234511234хNAK167хNAK44516784981091110х123.差錯(cuò)控制系統(tǒng)信道編碼基本原理2)ARQ:信息論與編碼基礎(chǔ)3.差錯(cuò)控制系統(tǒng)信道編碼基本原理2)ARQ:編、譯碼設(shè)備較簡單優(yōu)點(diǎn):缺點(diǎn):控制電路比較復(fù)雜系統(tǒng)糾錯(cuò)能力極強(qiáng)實(shí)時(shí)性差信道適應(yīng)性很強(qiáng)信息論與編碼基礎(chǔ)3)HEC:糾檢結(jié)和碼判決信息3.差錯(cuò)控制系統(tǒng)信道編碼基本原理信息論與編碼基礎(chǔ)3.差錯(cuò)控制系統(tǒng)設(shè)計(jì)差錯(cuò)控制系統(tǒng)時(shí)需考慮以下因素:1.滿足用戶對(duì)錯(cuò)誤概率的要求2.有盡可能高的信息傳輸率3.有盡可能簡單的編譯碼算法，且易于實(shí)現(xiàn)4.可接受的成本信道編碼基本原理信息論與編碼基礎(chǔ)信道編碼基本原理一、差錯(cuò)控制系統(tǒng)及其理論基礎(chǔ)二、信道編碼的基本概念三、信道編碼方法的性能評(píng)價(jià)四、常用檢錯(cuò)碼信息論與編碼基礎(chǔ)信源信宿調(diào)制器解調(diào)器噪聲源信源編碼器信道編碼器信道譯碼器波形信道信源譯碼器{S}{M}{E}{R}{C}信道編碼基本原理信息論與編碼基礎(chǔ)1.信道編碼的分類1)根據(jù)差錯(cuò)控制作用分類檢錯(cuò)碼糾錯(cuò)碼信道編碼基本原理ARQFEC信息論與編碼基礎(chǔ)2)糾錯(cuò)碼的分類a)按對(duì)信息源輸出的信號(hào)序列處理方式的不同分組碼:卷積碼:k個(gè)碼元+r個(gè)校驗(yàn)元(n,k)信道編碼基本原理信息論與編碼基礎(chǔ)卷積碼示例信道編碼基本原理信息論與編碼基礎(chǔ)卷積碼示例D0D1D2Mm1m2...mj...++C（c1jc2j）切換率=2倍輸入比特率（2，1，3）卷積碼編碼器D0D1D2Mm1m2...mj...++C（c1jc2j）信道編碼基本原理信息論與編碼基礎(chǔ)信道編碼基本原理IS-95中的卷積碼信息論與編碼基礎(chǔ)信道編碼基本原理WCDMA系統(tǒng)中的卷積碼信息論與編碼基礎(chǔ)信道編碼基本原理WCDMA系統(tǒng)中的卷積碼AndrewJ.Viterbi開發(fā)了卷積碼編碼的最大似然算法CDMA之父高通公司創(chuàng)始人之一信息論與編碼基礎(chǔ)b)根據(jù)校驗(yàn)元與信息元之間的關(guān)系線性碼非線性碼例（4,2）分組碼線性疊加性信道編碼基本原理信息論與編碼基礎(chǔ)c)按照糾正錯(cuò)誤的類型信道錯(cuò)誤分類由隨機(jī)噪聲、干擾引起。錯(cuò)誤彼此獨(dú)立,即錯(cuò)誤碼元的出現(xiàn)是隨機(jī)的。高斯白噪聲由突發(fā)噪聲引起。錯(cuò)誤成串出現(xiàn)。脈沖干擾、磁帶缺陷、電離層衰落信道編碼基本原理信息論與編碼基礎(chǔ)糾正隨機(jī)錯(cuò)誤的碼糾正突發(fā)錯(cuò)誤的碼即糾正隨機(jī)錯(cuò)誤又糾正突發(fā)錯(cuò)誤的碼信道編碼基本原理c)按照糾正錯(cuò)誤的類型漢明碼、BCH碼、卷積碼RS碼、Fire碼乘積碼、級(jí)聯(lián)碼d)按每個(gè)碼元取值來分二進(jìn)制碼q進(jìn)制碼信息論與編碼基礎(chǔ)信道編碼基本原理糾錯(cuò)碼非線性碼線性碼卷積碼分組碼非循環(huán)碼循環(huán)碼糾隨機(jī)錯(cuò)誤碼糾突發(fā)錯(cuò)誤碼糾隨機(jī)與突發(fā)錯(cuò)誤碼信息論與編碼基礎(chǔ)1)漢明距離與重量定義

一個(gè)碼字C中非零碼元的個(gè)數(shù)稱為該碼字的（漢明）重量，簡稱碼重，記為W（C）2.糾錯(cuò)碼的基本概念信道編碼基本原理例漢明距離信息論與編碼基礎(chǔ)信道編碼基本原理信息論與編碼基礎(chǔ)(3,2)碼信道編碼基本原理碼的最小重量和最小距離有什么關(guān)系？線性疊加性信息論與編碼基礎(chǔ)2)碼率（n,k）碼信息元位數(shù)碼字長度信道編碼基本原理碼率是衡量分組碼有效性的一個(gè)基本參數(shù)。信息論與編碼基礎(chǔ)信道編碼基本原理信源信宿調(diào)制器解調(diào)器噪聲源信源編碼器信道編碼器信道譯碼器波形信道信源譯碼器{S}{M}{E}{R}{C}3)錯(cuò)誤圖樣{E}信息論與編碼基礎(chǔ)例信道編碼基本原理3)錯(cuò)誤圖樣信息論與編碼基礎(chǔ)信道編碼基本原理3.最大似然譯碼譯碼器條件錯(cuò)誤概率譯碼器的錯(cuò)誤概率譯碼錯(cuò)誤概率最小的最佳譯碼規(guī)則最大后驗(yàn)概率譯碼信息論與編碼基礎(chǔ)信道編碼基本原理3.最大似然譯碼由貝葉斯公式若發(fā)送碼字概率相同最大似然譯碼例最小距離譯碼信息論與編碼基礎(chǔ)差錯(cuò)控制系統(tǒng)ARQ、FEC.HEC糾錯(cuò)碼的基本概念分類、碼距、碼率、MLD信道編碼基本原理本課小結(jié)信道編碼基本原理一、差錯(cuò)控制系統(tǒng)及其理論基礎(chǔ)二、信道編碼的基本概念三、信道編碼方法的性能評(píng)價(jià)四、常用檢錯(cuò)碼信息論與編碼基礎(chǔ)信息論與編碼基礎(chǔ)碼的距離和重量滿足三角不等式定理(n,k)線性分組碼的最小距離等于非零碼字的最小重量。信道編碼基本原理定理對(duì)于任一(n,k)分組碼，若要求:1）碼的檢錯(cuò)能力為e,則最小碼距信息論與編碼基礎(chǔ)C1C21ed0信道編碼基本原理信息論與編碼基礎(chǔ)2）碼的糾錯(cuò)能力為t,則最小碼距C1C21ttd0信道編碼基本原理信息論與編碼基礎(chǔ)3）能糾t個(gè)誤碼同時(shí)檢測e(e>t)個(gè)誤碼,則最小碼距C1C2tte1d0信道編碼基本原理總結(jié)信息論與編碼基礎(chǔ)信道編碼基本原理對(duì)于任一（n,k）分組碼，若要求:碼的檢錯(cuò)能力為e,則最小碼距d0≥e+1；碼的糾錯(cuò)能力為t,則最小碼距d0≥2t+1；能糾t個(gè)誤碼同時(shí)檢測e（e>t）個(gè)誤碼,則最小碼距d0≥e+t+1.信息論與編碼基礎(chǔ)信道編碼基本原理一、差錯(cuò)控制系統(tǒng)及其理論基礎(chǔ)二、信道編碼的基本概念三、信道編碼方法的性能評(píng)價(jià)四、常用檢錯(cuò)碼信息論與編碼基礎(chǔ)1.奇偶校驗(yàn)碼信息碼組:（n,n-1）編碼校驗(yàn)元+1偶奇信道編碼基本原理信息論與編碼基礎(chǔ)例:信息序列m=11010010011100111100001112.水平一致校驗(yàn)碼信道編碼基本原理信息論與編碼基礎(chǔ)信息元校驗(yàn)元（偶）110100100111001111000011110111C＝101101111000011100010110110111信道編碼基本原理2.水平一致校驗(yàn)碼R=100001111100000110100010010111101110信息論與編碼基礎(chǔ)3.水平垂直一致校驗(yàn)碼（方陣碼）信息元11010010011100111100001111011110001C’＝（按列傳輸）101101111100000110100010011011101110信道編碼基本原理信息論與編碼基礎(chǔ)4.群計(jì)數(shù)碼信息位監(jiān)督位111011110110111100100011000111101001101100100011011011水平群計(jì)數(shù)碼信道編碼基本原理信息論與編碼基礎(chǔ)5.等比碼（等重碼，定1碼）若碼長為n,重量為W,許用碼禁用碼例1）電傳通信2:3等比碼2）國際電報(bào)ARQ通信系統(tǒng)3:4碼信道編碼基本原理信息論與編碼基礎(chǔ)恒比碼10101010信道編碼基本原理信息論與編