《信息理論與編碼》課程教學大綱

信息理論與編碼課程教學大綱（INFORMATIONTHEORYANDCODING）學時數(shù)：48其中：理論學時：40實驗學時：8學分數(shù)：3適用專業(yè)：電子信息工程專業(yè)一、課程的性質(zhì)、目的和任務《信息理論與編碼》是電子信息工程專業(yè)的專業(yè)課程。課程的特點是理論性較強，有大量的推導和公式。因此本課程的目的與任務是使學生通過本課程的學習，理解信息論和編碼的基本概念和一定的編碼理論知識，掌握基礎的編碼方法。本課程在學習之前最好具有高等數(shù)學概率論通信原理方面的專業(yè)知識。二、課程教學的基本要求基本概念和基本知識：信源、無記憶信源、有記憶信源關(guān)馬爾科夫信源、離散信源熵、自信息、交互信息、離散序列信源熵、離散無記憶信源序列熵、離散有記憶信源序列熵、連續(xù)信源熵、最大熵定理、信道、信道容量、率失真函數(shù)、信源編碼、信道編碼、及有關(guān)信息論和編碼方面的基本知識。重點：熵的概念信道和信道容量的計算信源編碼信道編碼。難點：信道容量的求解信源編碼和的計算本課程概念多、理論性強，因此教學形式以講授方式為主，輔以網(wǎng)上課堂。了解是能正確判別有關(guān)概念和方法；理解是能正確表達有關(guān)概念和方法的含義；掌握是在理解的基礎上加以靈活應用。（具體內(nèi)容）本課程暫定用閉卷考試的考核方法，根據(jù)教學大綱統(tǒng)一命題，綜合計分。三、課程的教學內(nèi)容重點和難點第一章緒論（2學時）一、教學內(nèi)容：1、信息論的形成和發(fā)展2、通信系統(tǒng)的模型二、教學要求：1、掌握情報、知識、消息、信號、香農(nóng)信息、可靠性、有效性、保密性等概念2、掌握通信系統(tǒng)的模型、信源、編碼器、信道、譯碼器、信宿等概念重點：通信系統(tǒng)得模型、難點：各基本概念的掌握第二章信源和信源熵（8學時）一、教學內(nèi)容：1、信源描述和分類2、離散信源熵和互信息3、離散序列信源的熵4、連續(xù)信源的熵和互信息二、教學要求：要求掌握自信息量條件信息量互信息量條件互信息量平均互信息量單符號熵隨機序列折熵熵的性質(zhì)以及連續(xù)信源的熵最大熵定理。重點：熵的概念及各種條件下的熵難點：熵的計算第三章信道與信道容量（8學時）一、教學內(nèi)容：1、信道分類和表示參數(shù)2、離散單符號信道及容量3、離散序列及其容量4、連續(xù)信道及其容量二、教學要求：要求掌握信道的分類及其表示參數(shù)信道的最大傳輸率信道的容量及其計算方法重點：信道容量的計算難點：離散序列信道及連續(xù)信道的容量計算第四章信息率失真函數(shù)（4小時）一、教學內(nèi)容1、平均失真和信息率失真函數(shù)2、離散信源和連續(xù)信源的R（D）計算二、教學要求：要求掌握失真函數(shù)和信息率失真的函數(shù)的定義和性質(zhì)，并在給出一定失真限度內(nèi)信源必須輸出的最小傳輸速率。重點：信息率失真函數(shù)的概念難點：信息率失真函數(shù)的計算第五章信源編碼（8學時）一、教學內(nèi)容：1、編碼的定義2、無失真信源編碼3、限失真信源編碼4、常用信源編碼方法簡介二、教學要求：要求掌握信源的編碼方法無失真信源編碼定理限失真信源編碼定理定長編碼定理變長編碼定理香農(nóng)碼費諾（Fano）碼和哈夫曼（Huffman）碼的編碼方法及其性能比較重點：常用信源編碼難點：限失真信源編碼第六章信道編碼（10學時）一、教學內(nèi)容：1、有擾離散信道編碼定理2、糾錯譯碼的基本原理和分析方法3、線性分組碼4、卷積碼5、編碼與調(diào)制的結(jié)合——TCM6、級聯(lián)碼二、教學要求：要求掌握信道編碼定理差錯控制信道編譯碼方法的基本原理常用的信道編碼方法（線性分組碼卷積碼級聯(lián)碼）重點：各種編碼的概念及原理難點：卷積碼、級聯(lián)碼四、課程各教學環(huán)節(jié)要求1、本課程概念多、理論性強，因此教學形式以講授為主，輔以網(wǎng)上課堂。2、應布置一定的作業(yè)量3、本課程暫定用閉卷筆試的考核方式，根據(jù)教學大綱統(tǒng)一命題，綜合計分。五、學時分配章節(jié)主要內(nèi)容各教學環(huán)節(jié)學時分配作業(yè)題量備注講授實驗討論習題課外其它小計1緒論222信源和信源熵8083信道和信道容量82104信息率失真函數(shù)4265信源編碼82106信道編碼10212合計40848六、課程與其它課程的聯(lián)系本課程在學習之前應具有高等數(shù)學、概率論、通信原理方面的專業(yè)知識。七、教材與教學參考書（一）教材曹雪虹.信息論與編碼.北京：清華大學出版社，2004年（二）教學參考書：[1]曲煒.信息論與編碼理論.北京：科學出版社，2005年9月[2]傅祖蕓.