《信息論與編碼》課程實(shí)施大綱

——1．教學(xué)理念人類社會(huì)的生存和發(fā)展無(wú)時(shí)無(wú)刻都離不開(kāi)信息的獲取、傳遞、處理、控制和利用。特別是邁入21世紀(jì)――高度信息化時(shí)代，信息的重要性更是不言而喻。信息業(yè)的發(fā)展，需要大量從事信息、通信、電子工程類專業(yè)的人才，而《信息論和編碼》課程為電子信息工程學(xué)科的基礎(chǔ)課，同時(shí)也可作為信息科學(xué)其它相關(guān)學(xué)科的選修課，掌握它，可以指導(dǎo)理論研究和工程應(yīng)用。本課程注重基本概念、基本理論和基本分析方法的論述，并結(jié)合實(shí)例建立數(shù)學(xué)模型，給出推演過(guò)程，力求物理概念清晰、數(shù)學(xué)結(jié)構(gòu)嚴(yán)謹(jǐn)和完整、逐步深入展開(kāi)。通過(guò)該課程的學(xué)習(xí)，使學(xué)生掌握香農(nóng)信息論的三個(gè)基本概念，與之相應(yīng)的三個(gè)編碼定理，以及信源編碼、信道編碼和信息保密編碼的基本理論和主要方法，培養(yǎng)學(xué)生能夠適應(yīng)數(shù)字通信、信息處理、信息安全、計(jì)算機(jī)信息管理等編碼工作的要求。使學(xué)生掌握信息理論的基本概念和信息分析方法及主要結(jié)論，為今后從事信息領(lǐng)域的科研和工程工作進(jìn)一步研究打下堅(jiān)實(shí)的理論基礎(chǔ)。主講教師在授課中應(yīng)突出重點(diǎn)、分散難點(diǎn)，使學(xué)生對(duì)于主要的內(nèi)容有清晰、深刻的印象，牢固掌握所學(xué)知識(shí)。對(duì)于重點(diǎn)多用例題、習(xí)題加深理解，牢固掌握其方法，對(duì)于難點(diǎn)盡量避免煩瑣的推導(dǎo)，以例題進(jìn)行說(shuō)明，使學(xué)生對(duì)其有清晰的概念。2．課程介紹2.1課程的性質(zhì)信息論是由Shannon奠基的一門數(shù)學(xué)學(xué)科，它產(chǎn)生于有效而可靠的通信問(wèn)題中，并獲得了廣泛應(yīng)用。通過(guò)本門信息論基礎(chǔ)課程的學(xué)習(xí)，使學(xué)生對(duì)信息理論有一個(gè)比較全面和系統(tǒng)的了解，掌握信息論的基本概念和信息論方法。2.2課程在學(xué)科專業(yè)結(jié)構(gòu)中的地位、作用通過(guò)本課程的學(xué)習(xí)了解以下知識(shí)：信息論的基本概念，信道的容量，信息的壓縮與解壓，壓縮的極限條件，信源編碼，信源編碼，最佳信源編碼，信道編碼的概念與方法，信息論的發(fā)展歷史，它與現(xiàn)代通信理論的發(fā)展。同時(shí)學(xué)生應(yīng)熟悉以下知識(shí)：（1）信息量的計(jì)算；（2）信息熵的計(jì)算；（3）互信息與互信息熵的計(jì)算；（4）失真量與信道容量的關(guān)系換算；（5）信道容量與傳輸信息量的換算；（6）建立實(shí)際信道模型。為將來(lái)從事信息處理方面的實(shí)際工作打下堅(jiān)實(shí)的基礎(chǔ)。2.3課程的歷史與文化傳統(tǒng)信息論是運(yùn)用概率論與數(shù)理統(tǒng)計(jì)的方法研究信息、信息熵、通信系統(tǒng)、數(shù)據(jù)傳輸、密碼學(xué)、數(shù)據(jù)壓縮等問(wèn)題的應(yīng)用數(shù)學(xué)學(xué)科，所以數(shù)學(xué)知識(shí)的發(fā)展其實(shí)體現(xiàn)了信息技術(shù)與信息論的發(fā)展，。2.4課程的前沿及發(fā)展趨勢(shì)信息論發(fā)在的歷史大致可以分為，第一階段：1948年貝爾研究所的香農(nóng)在題為《通訊的數(shù)學(xué)理論》的論文中系統(tǒng)地提出了關(guān)于信息的論述,創(chuàng)立了信息論。第二階段：20世紀(jì)50年代,信息論向各門學(xué)科發(fā)起沖擊；60年代信息論進(jìn)入一個(gè)消化、理解的時(shí)期,在已有的基礎(chǔ)上進(jìn)行重大建設(shè)的時(shí)期.研究重點(diǎn)是信息和信源編碼問(wèn)題。第三階段：到70年代,由于數(shù)字計(jì)算機(jī)的廣泛應(yīng)用,通訊系統(tǒng)的能力也有很大提高,如何更有效地利用和處理信息,成為日益迫切的問(wèn)題.人們?cè)絹?lái)越認(rèn)識(shí)到信息的重要性,認(rèn)識(shí)到信息可以作為與材料和能源一樣的資源而加以充分利用和共享。2.5課程與經(jīng)濟(jì)社會(huì)發(fā)展的關(guān)系本課程是信息技術(shù)的基礎(chǔ)，信息的概念和方法已廣泛滲透到各個(gè)科學(xué)領(lǐng)域,它迫切要求突破申農(nóng)信息論的狹隘范圍,以便使它能成為人類各種活動(dòng)中所碰到的信息問(wèn)題的基礎(chǔ)理論,從而推動(dòng)其他許多新興學(xué)科進(jìn)一步發(fā)展，有助于社會(huì)經(jīng)濟(jì)生活在信息技術(shù)方面的快速發(fā)展。2.6課程內(nèi)容可能涉及到的倫理與道德問(wèn)題本課程內(nèi)容本不涉及倫理和道德問(wèn)題。2.7學(xué)習(xí)本課程的必要性本課程的目的是使學(xué)生掌握信息論的基本原理、方法和編碼的基本技術(shù)，為以后深入學(xué)習(xí)信息與通信類課程，為將來(lái)從事信息處理方面的實(shí)際工作打下堅(jiān)實(shí)的基礎(chǔ)。3．教師簡(jiǎn)介4．先修課程數(shù)學(xué)分析，高等代數(shù)，概率論與數(shù)理統(tǒng)計(jì)，隨機(jī)過(guò)程。5．課程目標(biāo)本課程從“概念、描述、度量、分析與計(jì)算”五個(gè)方面討論無(wú)失真信源、信息熵、熵的基本性質(zhì)與計(jì)算；以單個(gè)離散信息為主體，討論各類信道及其容量的計(jì)算，從信息的高效率、高可靠性傳輸?shù)慕嵌?，討論編碼的理論和方法。學(xué)生通過(guò)本課程的學(xué)習(xí)應(yīng)達(dá)到如下基本要求:（1）深入理解有關(guān)信息和信息度量的概念，重點(diǎn)掌握離散信源信息度量的計(jì)算方法，理解連續(xù)信源和離散信源信息度量的異同點(diǎn)。（2）理解香農(nóng)信息論中信道和信道容量的概念，熟悉信道容量的分析與計(jì)算方法、信息熵的計(jì)算方法、互信息與互信息熵的計(jì)算、失真量與信道容量的關(guān)系換算、信道容量與傳輸信息量的換算及實(shí)際信道模型的建立。（3）了解典型信源和信道的分析方法及其特性。（4）理解“無(wú)失真變長(zhǎng)編碼定理信源編碼定理（香農(nóng)第一定理）”、“有噪信道編碼定理（香農(nóng)第二編碼定理）”的結(jié)論和理論意義；了解“高保真準(zhǔn)則下的信源編碼定理（香農(nóng)第三定理）。（5）了解和掌握信源編碼和信道編碼的基本概念、理論和主要方法。6．課程內(nèi)容6.1教學(xué)時(shí)數(shù)分配表6.1學(xué)時(shí)分配教學(xué)內(nèi)容講授第1章緒論2第2章信源及信源熵8第3章信道與信道容量4第4章信息率失真函數(shù)2第5章信源編碼6第6章信道編碼8合計(jì)306.2講授大綱與各章的基本要求第1章緒論1.1信息論的形成和發(fā)展1.2通信系統(tǒng)的模型基本要求：1．了解這門課要講什么；2．區(qū)分信息、消息、信號(hào)這三個(gè)名詞；3．對(duì)于一個(gè)通信系統(tǒng)，有哪些性能指標(biāo)需要我們優(yōu)化，如何優(yōu)化。第2章信源與信息熵2.1信源的描述與分類2.2離散信源熵和互信息2.3離散序列信源的熵2.4連續(xù)信源的熵和互信息2.5冗余度基本要求：1．學(xué)會(huì)區(qū)分無(wú)記憶信源、有記憶信源、馬爾可夫信源；2．掌握自信息量、條件自信息量、互信息量、條件互信息量、平均互信息量、單符號(hào)熵、隨即序列熵、連續(xù)信源熵的概念及各自計(jì)算方法；3．掌握最大熵定理；4．了解冗余度的由來(lái)及作用。第3章信道與信道容量3.1信道分類和表示參數(shù)3.2離散單個(gè)符號(hào)信道及其容量3.3離散序列信道及其容量3.4連續(xù)信道及其容量基本要求：1．掌握信道的分類及其參數(shù)；2．掌握信道容量的概念；3．會(huì)計(jì)算無(wú)干擾離散信道、對(duì)稱DMC信道、準(zhǔn)對(duì)稱DMC信道的信道容量；4．了解離散序列信道、連續(xù)信道的信道容量計(jì)算方法。第4章信息率失真函數(shù)4.1平均失真和信息率失真函數(shù)4.2離散信源和連續(xù)信源的率失真函數(shù)計(jì)算基本要求：1．掌握失真函數(shù)、信息率失真函數(shù)的定義及性質(zhì)；2．掌握幾種特殊情況下信息率失真函數(shù)的表達(dá)式。第5章信源編碼5.1編碼的定義5.2無(wú)失真信源編碼5.3限失真信源編碼5.4常用信源編碼方法簡(jiǎn)介基本要求：1．掌握奇異碼/非奇異碼、唯一可譯碼、即時(shí)碼的概念及由碼樹(shù)構(gòu)造碼字的方法；2．掌握無(wú)失真信源編碼定理和限失真編碼定理；3．掌握香農(nóng)碼、費(fèi)諾碼、哈夫曼碼的編碼方法；4．了解幾種其它常見(jiàn)的信源編碼方法。第6章信道編碼6.1有擾離散信道的編碼定理6.2糾錯(cuò)編譯碼的基本原理與分析方法6.3線性分組碼6.4卷積媽基本要求：1．掌握信道編碼定理，差錯(cuò)控制與信道編譯碼的基本原理；2．掌握線性分組碼的構(gòu)造方法，會(huì)構(gòu)造線性分組碼的標(biāo)準(zhǔn)陣列譯碼表；3．掌握最小碼距與糾錯(cuò)能力、碼集中時(shí)非零碼字的最小重量及校驗(yàn)矩陣秩的關(guān)系；4．掌握完備碼的定義，了解漢明碼和高萊碼這兩種完備碼；5．掌握循環(huán)碼及兩種特殊循環(huán)碼（BCH、RS）的構(gòu)造方法；6．了解分組碼的擴(kuò)展、縮短與循環(huán)冗余校驗(yàn)；7．掌握卷積碼的基本概念、描述方法，了解維比特譯碼方法；

7.課程教學(xué)實(shí)施7.1教學(xué)單元一7.1.1教學(xué)日期第一次課7.1.2教學(xué)目標(biāo)要求學(xué)生明確本課程的學(xué)習(xí)目的及要求，初步了解本課程的特點(diǎn)及學(xué)習(xí)方法，掌握信息的基本概念和特點(diǎn)，了解信息論研究的對(duì)象、目的和內(nèi)容，了解信息論的形成和發(fā)展趨勢(shì)，以及目前信息論與編碼的主要研究成果，激發(fā)學(xué)習(xí)信息論與編碼的興趣與熱情。7.1.3教學(xué)內(nèi)容本課程的特點(diǎn)及學(xué)習(xí)方法、信息的基本概念與特點(diǎn)，信息論的主要研究對(duì)象、目的和內(nèi)容。7.1.4教學(xué)過(guò)程講解信息的基本概念和特點(diǎn)，信息論研究的對(duì)象、目的和內(nèi)容，信息論的形成和發(fā)展趨勢(shì)，以及目前信息論與編碼的主要研究成果。課程導(dǎo)入，本課程的學(xué)習(xí)目的、要求及方法介紹，信息的基本概念和特點(diǎn)，信息論研究的對(duì)象、目的和內(nèi)容，信息論的形成和發(fā)展趨勢(shì)，以及目前信息論與編碼的主要研究成果，本節(jié)課知識(shí)點(diǎn)總結(jié)。7.1.5教學(xué)方法課堂講授，從某一舉例中讓學(xué)生知道信息、消息和信號(hào)的關(guān)系。7.1.6作業(yè)安排及課后反思1、信息、信號(hào)、消息的定義是什么？三者的關(guān)系如何？2、尋找閱讀和信息論與編碼發(fā)展的有關(guān)資料。3、通信系統(tǒng)的各個(gè)主要組成部分是什么？作業(yè)1-3題7.1.7課前準(zhǔn)備情況及其他相關(guān)特殊要求預(yù)習(xí)7.1.8參考資料[1]曹雪虹,張宗橙.信息論與編碼．北京：清華大學(xué)出版社，2004[2]肖國(guó)鎮(zhèn)，卿斯?jié)h.編碼理論．北京：國(guó)防工業(yè)出版社，1993[3]孫麗華，陳榮伶.信息論與編碼．江西：科學(xué)技術(shù)出版社，20027.2教學(xué)單元二7.2.1教學(xué)日期第二次課7.2.2教學(xué)目標(biāo)要求學(xué)生掌握信源描述和分類，掌握馬爾科夫信源描述。7.2.3教學(xué)內(nèi)容（1）信源的描述（2）信源的分類7.2.4教學(xué)過(guò)程講解。重點(diǎn)：信源的分類，馬爾可夫信源。難點(diǎn)：信源的描述，馬爾可夫信源。7.2.5教學(xué)方法本堂課推導(dǎo)內(nèi)容較多，枯燥平淡，不易激發(fā)學(xué)生興趣，要注意多討論用途。另外，注意，解題方法。多加一些內(nèi)容豐富知識(shí)和理解。7.2.6作業(yè)安排及課后反思作業(yè)2-4題7.2.7課前準(zhǔn)備情況及其他相關(guān)特殊要求預(yù)習(xí)相關(guān)章節(jié)。7.2.8參考資料[1]曹雪虹,張宗橙．信息論與編碼．北京：清華大學(xué)出版社，2004[2]肖國(guó)鎮(zhèn)，卿斯?jié)h．編碼理論．北京：國(guó)防工業(yè)出版社，1993[3]孫麗華，陳榮伶．信息論與編碼．江西：科學(xué)技術(shù)出版社，20027.3教學(xué)單元三7.3.1教學(xué)日期第三次課7.3.2教學(xué)目標(biāo)要求學(xué)生掌握自信息量、離散信源熵、互信息的概念及其求解方法，了解數(shù)據(jù)處理中信息的變化方式，熟悉并掌握熵的一些基本性質(zhì)。7.3.3教學(xué)內(nèi)容自信息量、離散信源熵、互信息的概念及其求解方法、數(shù)據(jù)處理中信息的變化方式、熵的性質(zhì)。7.3.4教學(xué)過(guò)程講解離散信源熵和互信息的基本概念和特點(diǎn)。1.自信息量概念及其求解方法介紹；2.離散信源熵的概念及其求解方法講授；3.互信息的概念及其求解方法講授；4.數(shù)據(jù)處理中信息的變化方式講授；5.熵的性質(zhì)講授；6.課堂練習(xí)及課后習(xí)題講解；7.本節(jié)課知識(shí)點(diǎn)總結(jié)。本次課主要對(duì)自信息量、離散信源熵、互信息、數(shù)據(jù)處理中信息的變化與熵的性質(zhì)進(jìn)行講解，最好對(duì)其中涉及到的重難點(diǎn)進(jìn)行總結(jié)概括。7.3.5教學(xué)方法課堂講授7.3.6作業(yè)安排及課后反思作業(yè)2-4題7.3.7課前準(zhǔn)備情況及其他相關(guān)特殊要求預(yù)習(xí)相關(guān)章節(jié)。7.3.8參考資料[1]曹雪虹，張宗橙．信息論與編碼．北京：清華大學(xué)出版社，2004[2]肖國(guó)鎮(zhèn)，卿斯?jié)h．編碼理論．北京：國(guó)防工業(yè)出版社，1993[3]孫麗華，陳榮伶．信息論與編碼．江西：科學(xué)技術(shù)出版社，20027.4教學(xué)單元四7.4.1教學(xué)日期第四次課7.4.2教學(xué)目標(biāo)要求學(xué)生掌握離散序列信源熵的概念與求解方法，掌握離散無(wú)記憶信源的序列熵與離散有記憶信源的序列熵的概念、特點(diǎn)與求解方法。7.4.3教學(xué)內(nèi)容離散序列信源熵的概念與求解方法、離散無(wú)記憶信源的序列熵與離散有記憶信源的序列熵的概念、特點(diǎn)與求解方法。7.4.4教學(xué)過(guò)程對(duì)上次課的重點(diǎn)進(jìn)行復(fù)習(xí)，簡(jiǎn)單介紹本次課的基本內(nèi)容，問(wèn)題的提出：a．如何描述離散無(wú)記憶序列信源的序列熵？b。如何描述離散有記憶序列信源（平穩(wěn)序列和齊次遍歷馬氏信源）的序列熵？本次課主要對(duì)離散無(wú)記憶信源的序列熵、離散有記憶信源的序列熵進(jìn)行詳細(xì)講解，最好對(duì)其中涉及到的重難點(diǎn)進(jìn)行總結(jié)概括。按順序講解，1.離散序列信源熵的概念與求解方法介紹；2.離散無(wú)記憶信源的序列熵的基本概念、特點(diǎn)與求解方法講授；3.離散有記憶信源的序列熵的概念、特點(diǎn)與求解方法講授；4.課堂練習(xí)及課后習(xí)題講解；5.本次課知識(shí)點(diǎn)總結(jié)。7.4.5教學(xué)方法講授7.4.6作業(yè)安排及課后反思作業(yè)1題7.4.7課前準(zhǔn)備情況及其他相關(guān)特殊要求預(yù)習(xí)相關(guān)章節(jié)。7.4.8參考資料[1]曹雪虹,張宗橙．信息論與編碼．北京：清華大學(xué)出版社，2004[2]肖國(guó)鎮(zhèn)，卿斯?jié)h．編碼理論．北京：國(guó)防工業(yè)出版社，1993[3]孫麗華，陳榮伶．信息論與編碼．江西：科學(xué)技術(shù)出版社，20027.5教學(xué)單元五7.5.1教學(xué)日期第五次課7.5.2教學(xué)目標(biāo)要求學(xué)生掌握連續(xù)信源熵和互信息的基本概念，掌握幅度連續(xù)的單個(gè)符號(hào)信源熵的求解方法，了解波形信源熵的求解方法已經(jīng)最大熵定理。7.5.3教學(xué)內(nèi)容連續(xù)信源熵和互信息的基本概念、幅度連續(xù)的單個(gè)符號(hào)信源熵的求解方法、波形信源熵的求解方法已經(jīng)最大熵定理。7.5.4教學(xué)過(guò)程1.課程導(dǎo)入；2.幅度連續(xù)的單個(gè)符號(hào)信源熵概念及求解方法介紹；3.波形信源熵的概念及求解方法講授；4.最大熵定理的講解；5.課堂練習(xí)及課后習(xí)題講解，6.本節(jié)課知識(shí)點(diǎn)總結(jié)。提出問(wèn)題：如何來(lái)求解？先將連續(xù)信源在時(shí)間上離散化，再對(duì)連續(xù)變量進(jìn)行量化分層，并用離散變量來(lái)逼近連續(xù)變量。量化間隔越小，離散變量與連續(xù)變量越接近，當(dāng)量化間隔趨近于零時(shí)，離散變量就等于連續(xù)變量。提出問(wèn)題:在連續(xù)信源中，當(dāng)概率密度函數(shù)滿足什么條件時(shí)才能使連續(xù)信源相對(duì)熵最大？峰值功率受限的最大相對(duì)熵定理；對(duì)于定義域?yàn)橛邢薜碾S機(jī)矢量X，當(dāng)它是均勻分布時(shí)，其熵最大。限平均功率最大相對(duì)熵定理。7.5.5教學(xué)方法講授7.5.6作業(yè)安排及課后反思作業(yè)2，3題7.5.7課前準(zhǔn)備情況及其他相關(guān)特殊要求預(yù)習(xí)相關(guān)章節(jié)。7.5.8參考資料[1]曹雪虹,張宗橙.信息論與編碼．北京：清華大學(xué)出版社，2004[2]肖國(guó)鎮(zhèn)，卿斯?jié)h.編碼理論．北京：國(guó)防工業(yè)出版社，1993[3]孫麗華，陳榮伶.信息論與編碼．江西：科學(xué)技術(shù)出版社，20027.6教學(xué)單元六7.6.1教學(xué)日期第六次課7.6.2教學(xué)目標(biāo)要求學(xué)生掌握離散單個(gè)符號(hào)信道及其容量的基本概念，無(wú)干擾離散信道、對(duì)稱DMC信道、準(zhǔn)對(duì)稱DMC信道與一般DMC信道的信道容量定義及其求解方法。7.6.3教學(xué)內(nèi)容無(wú)干擾離散信道、對(duì)稱DMC信道、準(zhǔn)對(duì)稱DMC信道與一般DMC信道的信道容量定義及其求解方法。7.6.4教學(xué)過(guò)程1.課程導(dǎo)入；2.無(wú)干擾離散信道的信道容量闡述；3.對(duì)稱DMC信道的信道容量講授；4.準(zhǔn)對(duì)稱DMC信道的信道容量講解；5.一般DMC信道的信道容量定義及其求解方法講授；6.課堂練習(xí)及課后習(xí)題講解；7.本節(jié)課知識(shí)點(diǎn)總結(jié)。信道中存在的干擾使輸出信號(hào)與輸入信號(hào)之間沒(méi)有固定的函數(shù)關(guān)系，只有統(tǒng)計(jì)依賴的關(guān)系。因此可以通過(guò)研究分析輸入輸出信號(hào)的統(tǒng)計(jì)特性來(lái)研究信道。7.6.5教學(xué)方法講授7.6.6作業(yè)安排及課后反思作業(yè)3題7.6.7課前準(zhǔn)備情況及其他相關(guān)特殊要求預(yù)習(xí)相關(guān)章節(jié)。7.6.8參考資料[1]曹雪虹,張宗橙.信息論與編碼．北京：清華大學(xué)出版社，2004[2]肖國(guó)鎮(zhèn)，卿斯?jié)h.編碼理論．北京：國(guó)防工業(yè)出版社，1993[3]孫麗華，陳榮伶.信息論與編碼．江西：科學(xué)技術(shù)出版社，20027.7教學(xué)單元七7.7.1教學(xué)日期第七次課7.7.2教學(xué)目標(biāo)要求學(xué)生掌握離散序列信道及其容量，了解連續(xù)單符號(hào)加性信道、多維無(wú)記憶加性連續(xù)信道、限時(shí)限頻限功率的加性高斯白噪聲信道。7.7.3教學(xué)內(nèi)容主要內(nèi)容：（1）離散序列信道及其容量（2）連續(xù)信道及其容量重點(diǎn)：離散序列信道及其容量。難點(diǎn)：連續(xù)單符號(hào)加性信道、多維無(wú)記憶加性連續(xù)信道、限時(shí)限頻限功率的加性高斯白噪聲信道。7.7.4教學(xué)過(guò)程1．課程導(dǎo)入；2.離散序列信道的信道容量定義闡述；3.離散序列信道的信道容量物理含義和計(jì)算方法講授；4.連續(xù)單符號(hào)加性信道、多維無(wú)記憶加性連續(xù)信道、限時(shí)限頻限功率的加性高斯白噪聲信道講授；5課堂練習(xí)及課后習(xí)題講解；6.本節(jié)課知識(shí)點(diǎn)總結(jié)。信道中存在的干擾使輸出信號(hào)與輸入信號(hào)之間沒(méi)有固定的函數(shù)關(guān)系，只有統(tǒng)計(jì)依賴的關(guān)系。因此可以通過(guò)研究分析輸入輸出信號(hào)的統(tǒng)計(jì)特性來(lái)研究信道。7.7.5教學(xué)方法課堂講授。7.7.6作業(yè)安排及課后反思1、信息、信號(hào)、消息的定義是什么？三者的關(guān)系如何？2、尋找閱讀和信息論與編碼發(fā)展的有關(guān)資料。3、通信系統(tǒng)的各個(gè)主要組成部分是什么？作業(yè)1-3題7.7.7課前準(zhǔn)備情況及其他相關(guān)特殊要求預(yù)習(xí)7.1.8參考資料[1]曹雪虹,張宗橙.信息論與編碼．北京：清華大學(xué)出版社，2004[2]肖國(guó)鎮(zhèn)，卿斯?jié)h.編碼理論．北京：國(guó)防工業(yè)出版社，1993[3]傅祖蕓．信息理論與編碼學(xué)習(xí)輔導(dǎo)及精選題解．北京：電子工業(yè)出版社，20047.8教學(xué)單元八7.8.1教學(xué)日期第八次課7.8.2教學(xué)目標(biāo)學(xué)生掌握平均失真和信息率失真函數(shù)的基本概念，掌握失真函數(shù)的計(jì)算、平均失真的計(jì)算、信息率失真函數(shù)R(D)的計(jì)算、信息率失真函數(shù)的性質(zhì)、信息率失真函數(shù)與信道容量的比較。7.8.3教學(xué)內(nèi)容失真函數(shù)的計(jì)算、平均失真的計(jì)算、信息率失真函數(shù)R(D)的計(jì)算、信息率失真函數(shù)的性質(zhì)、信息率失真函數(shù)與信道容量的比較。7.8.4教學(xué)過(guò)程1.失真函數(shù)的概念及其計(jì)算方法講解；2.平均失真的概念與計(jì)算方法講授；3.信息率失真函數(shù)R(D)的概念與計(jì)算方法講解；4.信息率失真函數(shù)的性質(zhì)講授；5.信息率失真函數(shù)與信道容量的比較講解；6.本節(jié)課知識(shí)點(diǎn)總結(jié)。著重從物理含義和實(shí)際系統(tǒng)中引入信息率失真函數(shù)，注意和信道容量的差別。7.8.5教學(xué)方法課堂講授。7.8.6作業(yè)安排及課后反思作業(yè)3題7.8.7課前準(zhǔn)備情況及其他相關(guān)特殊要求預(yù)習(xí)相關(guān)章節(jié)。7.8.8參考資料[1]張鳴瑞，鄒世開(kāi)．編碼理論．北京：北京航天航空出版社，1990[2]姜丹．信息論與編碼．北京：中國(guó)科學(xué)技術(shù)大學(xué)出版社，20047.9教學(xué)單元九7.9.1教學(xué)日期第九次課7.9.2教學(xué)目標(biāo)學(xué)生掌握信源編碼的基本概念，掌握無(wú)失真編碼定理，掌握香農(nóng)、費(fèi)諾和霍夫曼編碼原理。7.9.3教學(xué)內(nèi)容主要內(nèi)容：（1）編碼的定義（2）無(wú)失真信源編碼重點(diǎn)：定長(zhǎng)編碼定理、變長(zhǎng)編碼定理、最佳變長(zhǎng)編碼。難點(diǎn)：定長(zhǎng)編碼定理、哈夫曼編碼方法。7.9.4教學(xué)過(guò)程1.編碼的定義和分類講解；2.唯一可譯碼判斷方法講授；3.定長(zhǎng)編碼定理講解；4.最佳編碼講授；5.香農(nóng)、費(fèi)諾和霍夫曼編碼講解；6.本節(jié)課知識(shí)點(diǎn)總結(jié)。通信的實(shí)質(zhì)是信息的傳輸。而高速度、高質(zhì)量地傳送信息是信息傳輸?shù)幕締?wèn)題。將信源信息通過(guò)信道傳送給信宿，怎樣才能做到盡可能不失真而又快速呢？這就需要解決兩個(gè)問(wèn)題：第一，在不失真或允許一定失真的條件下，如何用盡可能少的符號(hào)來(lái)傳送信源信息；第二，在信道受干擾的情況下，如何增加信號(hào)的抗干擾能力，同時(shí)又使得信息傳輸率最大。為了解決這兩個(gè)問(wèn)題，就要引入信源編碼和信道編碼。7.9.5教學(xué)方法課堂講授。7.9.6作業(yè)安排及課后反思作業(yè)2-4題7.9.7課前準(zhǔn)備情況及其他相關(guān)特殊要求預(yù)習(xí)相關(guān)章節(jié)。7.9.8參考資料[1]曹雪虹,張宗橙.信息論與編碼．北京：清華大學(xué)出版社，2004[2]肖國(guó)鎮(zhèn)，卿斯?jié)h.編碼理論．北京：國(guó)防工業(yè)出版社，19937.10教學(xué)單元十7.10.1教學(xué)日期第十次課7.10.2教學(xué)目標(biāo)學(xué)生掌握信源編碼的基本概念，掌握無(wú)失真編碼定理，掌握香農(nóng)、費(fèi)諾和霍夫曼編碼原理。7.10.3教學(xué)內(nèi)容主要內(nèi)容：（1）限失真信源編碼定理（2）常用信源編碼方法簡(jiǎn)介（游程編碼、矢量量化編碼、算術(shù)編碼）重點(diǎn)：常用信源編碼方法簡(jiǎn)介。難點(diǎn)：限失真信源編碼定理。7.10.4教學(xué)過(guò)程1.限失真編碼定理講解；2.游程編碼講解；3.矢量量化編碼講解；4.算術(shù)編碼講解；5.本節(jié)課知識(shí)點(diǎn)總結(jié)。限失真編碼定理主要存在以下兩大類問(wèn)題。第一類問(wèn)題是,符合實(shí)際信源的R(D)函數(shù)的計(jì)算相當(dāng)困難。首先，需要對(duì)實(shí)際信源的統(tǒng)計(jì)特性有確切的數(shù)學(xué)描述。其次，需要對(duì)符合主客觀實(shí)際的失真給予正確的度量，否則不能求得符合主客觀實(shí)際的R(D)函數(shù)。第二類問(wèn)題是，即便求得了符合實(shí)際的信息率失真函數(shù)，還需研究采用何種實(shí)用的最佳編碼方法才能達(dá)到R(D)。7.10.5教學(xué)方法講授7.10.6作業(yè)安排及課后反思作業(yè)1題7.10.7課前準(zhǔn)備情況及其他相關(guān)特殊要求預(yù)習(xí)相關(guān)章節(jié)。7.10.8參考資料[1]曹雪虹,張宗橙.信息論與編碼．北京：清華大學(xué)出版社，2004[2]肖國(guó)鎮(zhèn)，卿斯?jié)h.編碼理論．北京：國(guó)防工業(yè)出版社，19937.11教學(xué)單元十一7.11.1教學(xué)日期第十一次課7.11.2教學(xué)目標(biāo)學(xué)生掌握信源預(yù)測(cè)編碼編碼的基本概念和原理方法，了解變換編碼的基本原理。7.11.3教學(xué)內(nèi)容主要內(nèi)容：（1）常用信源編碼方法簡(jiǎn)介（預(yù)測(cè)編碼）（2）常用信源編碼方法簡(jiǎn)介（變換編碼）。重點(diǎn)：常用信源編碼方法簡(jiǎn)介（預(yù)測(cè)編碼）。難點(diǎn)：常用信源編碼方法簡(jiǎn)介（預(yù)測(cè)編碼）。7.11.4教學(xué)過(guò)程1.基于時(shí)域相關(guān)性編碼原理講解；2.預(yù)測(cè)編碼講解；3.基于頻域或者變換域編碼原理講解；4.變換編碼講解；5.本節(jié)課知識(shí)點(diǎn)總結(jié)。對(duì)于有記憶信源，信源輸出的各個(gè)分量之間是有統(tǒng)計(jì)關(guān)聯(lián)的，這種統(tǒng)計(jì)關(guān)聯(lián)性可以加以充分利用。預(yù)測(cè)編碼的編碼器和譯碼器都存貯有過(guò)去的信號(hào)值，并以此來(lái)預(yù)測(cè)或估計(jì)未來(lái)的信號(hào)值。變換編碼的基本原理就是將原來(lái)在空間域上描述的信號(hào)，通過(guò)一種數(shù)學(xué)變換(例如，傅里葉變換、正交變換等)變換到變換域(如頻率域、正交矢量空間)中進(jìn)行描述。簡(jiǎn)單地講，即把信號(hào)由空間域變換到變換域中，用變換系數(shù)來(lái)描述。這些變換系數(shù)之間的相關(guān)性明顯下降，并且能量常常集中于低頻或低序系數(shù)區(qū)域中，這樣就容易實(shí)現(xiàn)碼率的壓縮，而且還大大降低了實(shí)現(xiàn)的難度。7.11.5教學(xué)方法講授7.11.6作業(yè)安排及課后反思作業(yè)4題7.11.7課前準(zhǔn)備情況及其他相關(guān)特殊要求預(yù)習(xí)相關(guān)章節(jié)。7.11.8參考資料[1]曹雪虹,張宗橙．信息論與編碼．北京：清華大學(xué)出版社，2004[2]傅祖蕓．信息理論與編碼學(xué)習(xí)輔導(dǎo)及精選題解．北京：電子工業(yè)出版社，20047.12教學(xué)單元十二7.12.1教學(xué)日期第十二次課7.12.2教學(xué)目標(biāo)學(xué)生掌握信道編碼的基本概念，掌握差錯(cuò)概念，掌握有擾離散信道的編碼定理。7.12.3教學(xué)內(nèi)容主要內(nèi)容：（1）信道編碼的基本概念（2）信道編碼定理重點(diǎn)：信道編碼的基本概念難點(diǎn)：信道編碼的基本概念7.12.4教學(xué)過(guò)程1.信道編碼的定義和分類講解；2.差錯(cuò)與差錯(cuò)控制系統(tǒng)講授；3.差錯(cuò)控制方式講授；4.誤碼控制編碼講授；5.有擾離散信道的編碼定理講解；6.本節(jié)課知識(shí)點(diǎn)總結(jié)。糾錯(cuò)編碼的基本思路：途徑一：從信道編碼定理的公式出發(fā)，可知減小差錯(cuò)概率應(yīng)增大碼長(zhǎng)N或增大可靠性函數(shù)E(R)，而想增大E(R)就要加大信道容量C或減小碼率(傳信率)R。對(duì)于同樣的碼率，信道容量大者其可靠性函數(shù)E(R)也大；對(duì)于同樣的信道容量，碼率減小時(shí)其可靠性函數(shù)E(R)增大。途徑二：從概念上分析糾錯(cuò)編碼的基本原理，可以把糾錯(cuò)能力的獲取歸結(jié)為兩條，一條是利用冗余度，另一條是噪聲均化(隨機(jī)化)。糾錯(cuò)編碼：在被傳輸信息中附加一些冗余碼，即監(jiān)督碼元，利用附加碼元與信息碼元間的約束關(guān)系加以校驗(yàn)，以檢測(cè)和糾正錯(cuò)誤。7.12.5教學(xué)方法講授7.12.6作業(yè)安排及課后反思無(wú)7.12.7課前準(zhǔn)備情況及其他相關(guān)特殊要求預(yù)習(xí)相關(guān)章節(jié)。7.12.8參考資料[1]曹雪虹,張宗橙．信息論與編碼．北京：清華大學(xué)出版社，2004[2]傅祖蕓．信息理論與編碼學(xué)習(xí)輔導(dǎo)及精選題解．北京：電子工業(yè)出版社，20047.13教學(xué)單元十三7.13.1教學(xué)日期第十三次課7.13.2教學(xué)目標(biāo)學(xué)生掌握糾錯(cuò)編碼的基本概念，掌握糾錯(cuò)編譯碼的基本原理，掌握最大似然譯碼。7.13.3教學(xué)內(nèi)容主要內(nèi)容：（1）糾錯(cuò)編碼的基本原理與分析方法（糾錯(cuò)編碼的基本思路）（2）糾錯(cuò)譯碼的基本原理與分析方法（譯碼方法、最優(yōu)譯碼與最大似然譯碼）重點(diǎn)：糾錯(cuò)編碼的基本原理與分析方法（糾錯(cuò)編碼的基本思路）7.13.4教學(xué)過(guò)程1.常用信道編碼講解；2.檢錯(cuò)和糾錯(cuò)原理講授；3.碼距與檢錯(cuò)、糾錯(cuò)能力講授；4.最佳譯碼（最大后驗(yàn)概率譯碼）講授；5.最大似然譯碼講解；6.本節(jié)課知識(shí)點(diǎn)總結(jié)。糾錯(cuò)編碼傳輸必然要?jiǎng)佑萌哂嗟馁Y源。時(shí)間：比如一個(gè)比特重復(fù)發(fā)幾次，或一段消息重復(fù)發(fā)幾遍，或根據(jù)收端的反饋重發(fā)受損信息組。頻帶：插入冗余比特后傳輸效率下降，若要保持有用信息的速率不變，方法之一是增大符號(hào)傳遞速率（波特率）結(jié)果就占用了更大的帶寬。功率：采用多進(jìn)制符號(hào)，如用一個(gè)八進(jìn)制ASK符號(hào)代替一個(gè)四進(jìn)制ASK符號(hào)來(lái)傳送2比特信息，可騰出位置另傳1冗余比特。但為了維持信號(hào)集各點(diǎn)之間的距離不變，八進(jìn)制ASK符號(hào)的平均功率肯定比四進(jìn)制時(shí)要大，這就是動(dòng)用冗余的功率資源來(lái)傳輸冗余比特。設(shè)備復(fù)雜度：加大碼長(zhǎng)N，采用網(wǎng)格編碼調(diào)制（TCM），是在功率、帶寬受限信道中實(shí)施糾錯(cuò)編碼的有效方法，代價(jià)是算法復(fù)雜度的提高，需動(dòng)用設(shè)備資源。7.13.5教學(xué)方法課堂講授。7.13.6作業(yè)安排及課后反思作業(yè)3題7.13.7課前準(zhǔn)備情況及其他相關(guān)特殊要求預(yù)習(xí)相關(guān)章節(jié)。7.13.8參考資料[1]曹雪虹，張宗橙．信息論與編碼．北京：北京郵電大學(xué)出版社，2001[2]傅祖蕓．信息理論與編碼學(xué)習(xí)輔導(dǎo)及精選題解．北京：電子工業(yè)出版社，20047.14教學(xué)單元十四7.14.1教學(xué)日期第十四次課7.14.2教學(xué)目標(biāo)學(xué)生掌握線性分組編譯碼的基本原理方法，掌握幾種常用的線性分組碼。7.14.3教學(xué)內(nèi)容主要內(nèi)容：（1）線性分組碼的編碼；（2）線性分組碼的譯碼和伴隨式與標(biāo)準(zhǔn)陣列譯碼；(3)糾錯(cuò)能力和重量譜；（4）漢明碼；（5）BCH碼線性分組碼的譯碼和伴隨式與標(biāo)準(zhǔn)陣列譯碼；（6）RS碼；（7）CRC碼。重點(diǎn)：伴隨式與標(biāo)準(zhǔn)陣列譯碼，漢明碼難點(diǎn)：伴隨式與標(biāo)準(zhǔn)陣列譯碼，漢明碼7.14.4教學(xué)過(guò)程1.線性分組碼編講解；2.線性分組碼的譯碼和伴隨式與標(biāo)準(zhǔn)陣列譯碼講授3.糾錯(cuò)能力和重量譜講授；4.漢明碼講授；5.其他線性分組碼講授；6.本節(jié)課知識(shí)點(diǎn)總結(jié)。本堂課推導(dǎo)內(nèi)容較多，枯燥平淡，不易激發(fā)學(xué)生興趣，要注意多討論用途。另外，注意解題方法的講解。7.14.5教學(xué)方法課堂講授。7.14.6作業(yè)安排及課后反思作業(yè)1-2題7.14.7課前準(zhǔn)備情況及其他相關(guān)特殊要求預(yù)習(xí)相關(guān)章節(jié)。7.14.8參考資料[1]曹雪虹,張宗橙．信息論與編碼．北京：清華大學(xué)出版社，2004[2]傅祖蕓．信息理論與編碼學(xué)習(xí)輔導(dǎo)及精選題解．北京：電子工業(yè)出版社，20047.15教學(xué)單元十五7.15.1教學(xué)日期第十五次課7.1