信息論與編碼（第3版）-教學(xué)大綱

《信息論與編碼（第3版）》教學(xué)大綱課程信息課程名稱：信息論與編碼（第3版）課程類別：素質(zhì)選修課/專業(yè)基礎(chǔ)課課程性質(zhì)：選修/必修計(jì)劃學(xué)時(shí)：64計(jì)劃學(xué)分：4先修課程：無選用教材：《信息論與編碼（第3版）》，傅祖蕓主編，2023年，電子工業(yè)出版社教材。適用專業(yè)：本課程可作為高等院校相關(guān)專業(yè)的本科生課程,也可供科研院所從事信息科學(xué)理論技術(shù)、方法研究的科研和工程技術(shù)人員參考。課程負(fù)責(zé)人：二、課程簡介該課程系統(tǒng)地論述信息論與糾錯(cuò)編碼的基本理論。全書共9章，內(nèi)容包括:信息的定義和度量,離散信源和連續(xù)信源的信息熵,信道和信道容量,平均失真度和信息率失真函數(shù),三個(gè)香農(nóng)信息論的基本定理,若干種常見實(shí)用的無失真信源壓縮編碼的方法,以及信道糾錯(cuò)編碼的基本內(nèi)容和分析方法。三、課程教學(xué)要求序號(hào)專業(yè)畢業(yè)要求課程教學(xué)要求關(guān)聯(lián)程度1工程知識(shí)內(nèi)容包括:信息的定義和度量,離散信源和連續(xù)信源的信息熵,信道和信道容量,平均失真度和信息率失真函數(shù),三個(gè)香農(nóng)信息論的基本定理,若干種常見實(shí)用的無失真信源壓縮編碼的方法,以及信道糾錯(cuò)編碼的基本內(nèi)容和分析方法。L2問題分析當(dāng)今人們生活在高度信息化的時(shí)代,移動(dòng)通信、互聯(lián)網(wǎng)通信、多媒體技術(shù)、計(jì)算機(jī)技術(shù).空間技術(shù)、可視技術(shù)、智能技術(shù)等信息科學(xué)與技術(shù)獲得了超出人們想象的、前所未有的發(fā)展速度。在這些信息科學(xué)與技術(shù)領(lǐng)域中,只要涉及信息的存儲(chǔ)傳輸和處理的問題就要用到香農(nóng)信息論的基本理論。H3設(shè)計(jì)/開發(fā)解決方案在論述方式上,在闡明物理概念和工程背景的基礎(chǔ)上,先結(jié)合實(shí)例建立數(shù)學(xué)模型,再給出結(jié)論和定理，力求條理清晰,物理概念必須準(zhǔn)確和嚴(yán)謹(jǐn)完整。以使學(xué)生明白重要定理不是憑空產(chǎn)生的,是有理論依據(jù)的,定理與結(jié)論是完美的。H4研究L5使用現(xiàn)代工具L6工程與社會(huì)學(xué)生能夠意識(shí)到信息與編碼的重要性，不僅要有良好的思想道德素質(zhì)、科學(xué)文化素質(zhì)、專業(yè)技能和健康的身體，而且要有良好的心理素質(zhì)，勇于承擔(dān)責(zé)任，能夠承受失敗與挫折等。L7環(huán)境和可持續(xù)發(fā)展L8職業(yè)規(guī)范L9個(gè)人和團(tuán)隊(duì)1.學(xué)會(huì)個(gè)人發(fā)展和團(tuán)隊(duì)合作，提高個(gè)人和團(tuán)隊(duì)的綜合素質(zhì)。2.學(xué)會(huì)與他人合作和溝通，建立良好的人際關(guān)系和團(tuán)隊(duì)合作氛圍。H10溝通1.學(xué)會(huì)進(jìn)行有效的溝通和表達(dá)，與客戶、同事和上級(jí)保持良好的溝通和協(xié)作。2.學(xué)會(huì)進(jìn)行跨文化溝通和合作，提高國際化視野和跨文化交流能力。M11項(xiàng)目管理L12終身學(xué)習(xí)1.學(xué)會(huì)進(jìn)行自我學(xué)習(xí)和自我提升，不斷提高自身的專業(yè)水平和創(chuàng)新能力。2.學(xué)會(huì)進(jìn)行終身學(xué)習(xí)和職業(yè)發(fā)展規(guī)劃，不斷拓展職業(yè)領(lǐng)域和發(fā)展空間。H注：“課程教學(xué)要求”欄中內(nèi)容為針對(duì)該課程適用專業(yè)的專業(yè)畢業(yè)要求與相關(guān)教學(xué)要求的具體描述?！瓣P(guān)聯(lián)程度”欄中字母表示二者關(guān)聯(lián)程度。關(guān)聯(lián)程度按高關(guān)聯(lián)、中關(guān)聯(lián)、低關(guān)聯(lián)三檔分別表示為“H”“M”或“L”。“課程教學(xué)要求”及“關(guān)聯(lián)程度”中的空白欄表示該課程與所對(duì)應(yīng)的專業(yè)畢業(yè)要求條目不相關(guān)。四、課程教學(xué)內(nèi)容章節(jié)名稱主要內(nèi)容重難點(diǎn)關(guān)鍵詞學(xué)時(shí)類型1緒論信息的概念信息論研究的對(duì)象、目的和內(nèi)容信息論發(fā)展簡史與信息科學(xué)了解信息的概念；掌握信息論這一學(xué)科的研究對(duì)象、目的和內(nèi)容；掌握本學(xué)科的發(fā)展歷史、現(xiàn)狀和動(dòng)向。4理論+實(shí)操2離散信源及其信息測度信源的數(shù)學(xué)模型及分類離散信源的信息熵信息熵的基本性質(zhì)離散無記憶的擴(kuò)展信源離散平穩(wěn)信源馬爾可夫信源信源冗余度與自然語言的熵了解信源的概念；掌握信源的統(tǒng)計(jì)特性和數(shù)學(xué)模型,以及各類離散信源的信息測度一熵及其性質(zhì)。10理論+實(shí)操3離散信道及其信道容量信道的數(shù)學(xué)模型及分類平均互信息及平均條件互信息平均互信息的特性信道容量及其一般計(jì)算方法離散無記憶擴(kuò)展信道及其信道容量獨(dú)立并聯(lián)信道及其信道容量串聯(lián)信道的互信息和數(shù)據(jù)處理定理信源與信道的匹配了解并掌握離散信道的統(tǒng)計(jì)特性和數(shù)學(xué)模型；掌握信道傳輸?shù)钠骄バ畔⒓捌湫再|(zhì)；掌握信道容量及其計(jì)算方法。9理論+實(shí)操4波形信源和波形信道連續(xù)信源和波形信源的信息測度連續(xù)信源熵的性質(zhì)及最大差熵定理熵功率連續(xù)信道和波形信道的信息傳輸率高斯加性波形信道的信道容量了解并掌握隨機(jī)波形信源的統(tǒng)計(jì)特性和它的信息測度,以及波形信道的信道容量等問題。6理論+實(shí)操5無失真信源編碼定理編碼器等長碼漸近等分割性和e典型序列等長信源編碼定理變長碼變長信源編碼定理了解并掌握離散信源進(jìn)行無失真信源編碼的要求、方法及理論極限；掌握熵的物理意義。6理論+實(shí)操6有噪信道編碼定理錯(cuò)誤概率和譯碼規(guī)則錯(cuò)誤概率與編碼方法有噪信道編碼定理聯(lián)合信源信道編碼定理掌握在有噪信道中能使消息通過傳輸后發(fā)生的錯(cuò)誤最少的方法；掌握在有噪信道中無錯(cuò)誤傳輸?shù)目蛇_(dá)的最大信息傳輸率。3理論+實(shí)操7保真度準(zhǔn)則下的信源編碼失真度和平均失真度信息率失真函數(shù)及其性質(zhì)信息率失真函數(shù)的參量表述及其二元對(duì)稱信源和離散對(duì)稱信源的R(D)連續(xù)信源的信息率失真函數(shù)保真度準(zhǔn)則下的信源編碼定理聯(lián)合有失真信源信道編碼定理限失真信源編碼定理的實(shí)用意義了解并掌握信息率失真理論的基本內(nèi)容；掌握離散無記憶信源；掌握信源的失真度和信息率失真函數(shù)的定義與性質(zhì)；掌握離散信源和連續(xù)信源的信息率失真函數(shù)計(jì)算；掌握保真度準(zhǔn)則下的信源編碼定理。6理論+實(shí)操8無失真的信源編碼霍夫曼(Huffman)碼費(fèi)諾(Fano)碼香農(nóng)—費(fèi)諾—埃利斯碼游程編碼和MH編碼算術(shù)編碼字典碼了解并掌握典型的霍夫曼編碼游程編碼及算術(shù)編碼的原理和方法。；掌握通用編碼(又稱字典碼)的原理和方法。9理論+實(shí)操9信道的糾錯(cuò)編碼差錯(cuò)控制的基本形式糾錯(cuò)編碼分類及基本概念線性分組碼循環(huán)碼卷積碼了解信道糾錯(cuò)編碼的基本內(nèi)容和一些主要糾錯(cuò)碼；掌握信道糾錯(cuò)編碼的一些最基本的概念和基本的方法。11理論+實(shí)操五、考核要求及成績評(píng)定序號(hào)成績類別考核方式考核要求權(quán)重（%）備注1期末成績期末考試考試50百分制，60分為及格2平時(shí)成績課后作業(yè)9次40優(yōu)、良、中、及格、不及格3平時(shí)表現(xiàn)出勤情況10兩次未參加課程則無法獲得學(xué)分注：此表中內(nèi)容為該課程的全部考核方式及其相關(guān)信息。六、學(xué)生學(xué)習(xí)建議學(xué)習(xí)方法建議1.通過開展課堂討論、實(shí)踐活動(dòng)，增強(qiáng)的團(tuán)隊(duì)交流能力，學(xué)會(huì)如何與他人合作、溝通、協(xié)調(diào)等等。2.通過思考，加深自己的興趣，鞏固知識(shí)點(diǎn)。3.進(jìn)行練習(xí)和實(shí)踐，提高自己的技能和應(yīng)用能力，加深對(duì)知識(shí)的理解和記憶。學(xué)生課外閱讀參考資料《信息論與編碼（第3版）》，傅祖蕓主編，2023年，電子工業(yè)出版社教材。七、課程改革與建設(shè)課程在論述方式上,在闡明物理概念和工程背景的基礎(chǔ)上,先結(jié)合實(shí)例建立數(shù)學(xué)模型,再給出結(jié)論和定理，力求條理清晰,物理概念必須準(zhǔn)確和嚴(yán)謹(jǐn)完整。以使學(xué)生明白重要定理不是憑空