信息論與編碼 教學(xué)大綱

第頁信息論與編碼一、課程說明課程編號(hào)：090358Z10課程名稱：信息論與編碼/InformationTheory&Coding課程類別：專業(yè)教育課程學(xué)時(shí)/學(xué)分：48/3先修課程：《概率統(tǒng)計(jì)》、《高等數(shù)學(xué)》、《線性代數(shù)》適用專業(yè)：電子信息教材、教學(xué)參考書：1.《信息論與編碼（第二版）》，姜丹編著，中國科學(xué)技術(shù)大學(xué)出版社，2006年；2.《InformationTheory&Coding》，主編，中國水利水電出版社，2008年7月。二、課程設(shè)置的目的意義《信息論與編碼》是電子信息工程的專業(yè)核心課，本課程從基本概念、基本方法和基本應(yīng)用三個(gè)方面較系統(tǒng)全面地介紹了信息理論。既重視基礎(chǔ)理論，又面向?qū)嶋H應(yīng)用；既講述成熟的理論，又適當(dāng)介紹發(fā)展中的前沿課題。通過學(xué)習(xí)本課程，學(xué)生可以對(duì)計(jì)算機(jī)通信和編碼方法有較清楚的認(rèn)識(shí)，給后續(xù)的專業(yè)課的學(xué)習(xí)打下良好的基礎(chǔ)。三、課程的基本要求知識(shí)：《信息論與編碼》是一門利用概率論、數(shù)理統(tǒng)計(jì)和隨機(jī)過程等數(shù)學(xué)方法來研究信息在存儲(chǔ)、度量、編碼、傳輸、處理中一般規(guī)律的重要專業(yè)基礎(chǔ)課程。該課程要求學(xué)生掌握信息熵、信道容量、信源編碼、信道編碼等相關(guān)知識(shí)，同時(shí)要求學(xué)生掌握信息論在現(xiàn)代通信技術(shù)中的基本應(yīng)用以及信源編碼和信道編碼的基本技巧，為進(jìn)一步學(xué)習(xí)和研究信息的傳輸，存儲(chǔ)和處理相關(guān)的后續(xù)課打下堅(jiān)實(shí)的基礎(chǔ)。能力：從理論的角度了解信息論的基礎(chǔ)，從應(yīng)用的角度了解各種編碼的方法；掌握最基本的信息熵、交互熵的原理及其應(yīng)用；在討論中培養(yǎng)創(chuàng)新意識(shí)，提高分析、發(fā)現(xiàn)、研究和解決問題的能力；素質(zhì)：通過課程中的分析討論辯論培養(yǎng)分析溝通交流素質(zhì)，理解信息論對(duì)整個(gè)信息學(xué)科發(fā)展的寶貴價(jià)值。通過課外導(dǎo)學(xué)的模式，提升自主學(xué)習(xí)和終身學(xué)習(xí)的意識(shí)，形成不斷學(xué)習(xí)和適應(yīng)發(fā)展素質(zhì)。四、教學(xué)內(nèi)容、重點(diǎn)難點(diǎn)及教學(xué)設(shè)計(jì)章節(jié)教學(xué)內(nèi)容總學(xué)時(shí)學(xué)時(shí)分配教學(xué)重點(diǎn)教學(xué)難點(diǎn)教學(xué)方案設(shè)計(jì)（含教學(xué)方法、教學(xué)手段）講課實(shí)踐引言緒論220信息論的起源與發(fā)展；信息、信號(hào)、消息的概念與關(guān)系。對(duì)信息的理解教學(xué)思路：通過舉例說明什么是信息的三要素，區(qū)分信息、信號(hào)與消息的概念。教學(xué)模式：課堂教學(xué)與實(shí)際應(yīng)用展示。第一章單符號(hào)離散信源862單符號(hào)離散信源的數(shù)學(xué)模型；信源的自信量與信源熵的定義、計(jì)算與性質(zhì)。信源熵的理解與計(jì)算教學(xué)思路：以最簡(jiǎn)單的單符號(hào)離散信源介紹信息熵的計(jì)算公式。教學(xué)模式：課堂教學(xué)與研討，上機(jī)實(shí)踐第二章單符號(hào)離散信道1082單符號(hào)離散信道的數(shù)學(xué)模型；交互信息量、條件交互信息量、平均交互信息量、條件熵、聯(lián)合熵的定義、計(jì)算與性質(zhì)；單符號(hào)離散信道的信道容量。互信息量的理解與計(jì)算教學(xué)思路：介紹信道的數(shù)學(xué)模型和計(jì)算公式。介紹交互信息熵的應(yīng)用。教學(xué)模式：課堂教學(xué)與研討，實(shí)際應(yīng)用展示，上機(jī)實(shí)踐第三章多符號(hào)離散信源與信道660多符號(hào)信源與信道的數(shù)學(xué)模塊；離散平穩(wěn)信源的信源熵與極限熵；馬爾可夫信源；一些特殊信道的信道容量。極限熵與馬爾可夫信源教學(xué)思路：介紹多符號(hào)信源熵、信道熵，理解馬爾可夫新源，了解馬爾可夫模型的應(yīng)用。教學(xué)模式：課堂教學(xué)與研討第四章無失真信源編碼1082單義可譯碼與非延長(zhǎng)碼；定長(zhǎng)編碼與變長(zhǎng)編碼定理；最佳編碼；香濃碼、費(fèi)諾碼和霍夫曼編碼。定長(zhǎng)編碼與變長(zhǎng)編碼定理教學(xué)思路：通過樹形可視化來區(qū)分編碼方式。通過實(shí)踐來理解不同編碼的特點(diǎn)。教學(xué)模式：課堂教學(xué)與研討，實(shí)際應(yīng)用展示，上機(jī)實(shí)踐第五章抗干擾信道編碼862譯碼規(guī)則與信道編碼原理；抗干擾信道編碼定理；分組碼與檢糾能力；線性分組碼。信道編碼定理與線性分組碼教學(xué)思路：通過實(shí)例來講解信道編碼的方法，通過實(shí)踐來驗(yàn)證和比較分組碼的糾錯(cuò)能力。教學(xué)模式：課堂教學(xué)與研討，上機(jī)實(shí)踐第六章限失真信源編碼440平均失真度和信息率失真函數(shù)；限失真信源編碼定理。信息率失真函數(shù)教學(xué)思路：通過公式推導(dǎo)和實(shí)例來計(jì)算限失真信源編碼的失真率，掌握其編碼方式。教學(xué)模式：課堂教學(xué)與研討，一般歸納和重點(diǎn)解析相結(jié)合合計(jì)48408注：實(shí)踐包括實(shí)驗(yàn)、上機(jī)等五、實(shí)踐教學(xué)內(nèi)容和基本要求實(shí)驗(yàn)名稱實(shí)驗(yàn)內(nèi)容學(xué)時(shí)基本要求繪制二進(jìn)熵函數(shù)曲線用MATLAB軟件制作二進(jìn)熵函數(shù)曲線。2（1）掌握熵函數(shù)表達(dá)式及其性質(zhì)；（2）掌握MATLAB開發(fā)環(huán)境的使用；（3）掌握MATLAB繪圖函數(shù)，編程繪制二進(jìn)熵函數(shù)曲線。一般信道容量迭代算法用MATLAB編程實(shí)現(xiàn)一般信道容量迭代算法。2（1）掌握一般信道容量迭代算法的原理；（2）根據(jù)一般信道容量迭代算法的原理，針對(duì)不同的信道模型參數(shù)，自行設(shè)計(jì)方案，編程實(shí)現(xiàn)一般信道容量迭代算法，分析比較實(shí)驗(yàn)結(jié)果。香農(nóng)編碼和哈夫曼編碼用Matlab編寫香農(nóng)編碼和哈夫曼編碼的程序2（1）總結(jié)香農(nóng)編碼、哈夫曼編碼的基本原理與特點(diǎn)（2）寫出香農(nóng)編碼的基本步驟，畫出實(shí)現(xiàn)香農(nóng)編碼、哈夫曼編碼的程序流程圖（3）實(shí)現(xiàn)香農(nóng)編碼、哈夫曼編碼的Matlab源程序線性分組碼的信道編碼和譯碼用MATLAB編程實(shí)現(xiàn)線性分組碼的信道編碼和譯碼2（1）掌握線性分組碼的編碼和譯碼原理以及糾錯(cuò)原理；（2）掌握MATLAB語言的位運(yùn)算操作，編程實(shí)現(xiàn)線性分組碼的信道編碼和譯碼。六、考核方式及成績(jī)?cè)u(píng)定教學(xué)過程中采取講授、討論、分析、課前導(dǎo)學(xué)的方式進(jìn)行，注重過程考核，考核方式包括：到課考勤、回答問題、平時(shí)作業(yè)、小論文、答辯、實(shí)驗(yàn)報(bào)告和上機(jī)檢查等；過程考核占總評(píng)成績(jī)的50%，期末考試點(diǎn)50%?？己朔绞娇己藘?nèi)容成績(jī)比例（%）備