信息傳輸基礎01

1、信息傳輸基礎信息傳輸基礎錢慧錢慧福州大學福州大學教材課程安排 第11周（2）：緒論：數(shù)據(jù)壓縮的定義、必要性、分類、應用 第12周（6）：信源的數(shù)字化與壓縮系統(tǒng)評價 采樣 量化 性能評價 第13周（6）：理論極限與基本途徑 離散無記憶信源 聯(lián)合信源 隨機序列 率失真理論 第1415周（6）：統(tǒng)計編碼 基本理論 霍夫曼編碼 編碼與通用變長碼 游程編碼 算術編碼 基于字典的編碼 第1517周（8）：預測編碼 DPCM的基本原理 最佳線性預測 音頻信號與聽覺感知，語音信號的預測編碼 靜止圖像的預測編碼 視頻信號與視覺感知，活動圖像的預測編碼 第18周（3）：變換編碼 基本原理 離散正交變換 靜止圖像的

2、變換編碼 第19周（3）：視頻壓縮的國際標準簡介 H.261 MPEG-1 MPEG5 復習成績考評 無作業(yè)，平時5次隨機檢查 考試 平時25% 考試75%緒論緒論第1章1 緒論 如果你對數(shù)據(jù)能被壓縮到如此之小感到驚訝和迷惑不解 如果你想知道常用的許多壓縮工具是如何工作的 如果你正要為自己的應用程序加入靈活的壓縮、解壓模塊 如果你鄭在編寫自己的圖形圖像編輯工具1.1 什么是數(shù)據(jù)壓縮信源信源編碼信道編碼調制傳輸通道解調信源解碼信道解碼信宿信息的本質是為了交流和傳輸編碼 編碼是另外的一種符號表示方式 差錯編碼 01101011011010110110111010110101101 加密 01101

3、0110111101001010110101101 壓縮 0110101101101010110101101 信道編碼 解決reliability問題，是處理過的信號在傳輸過程中不出錯或少出錯，即使出錯頁可以自動檢錯和糾錯 信源編碼： 解決security和validity的問題，對信源的壓縮、擾亂、加密等處理，用最少的數(shù)碼最安全地傳遞最大的信息量本書的本書的研究內容研究內容：信源編碼，主要解決傳輸：信源編碼，主要解決傳輸有效性有效性的問題，它構成了數(shù)據(jù)壓縮的理論基礎的問題，它構成了數(shù)據(jù)壓縮的理論基礎數(shù)據(jù)壓縮的定義 以最少的數(shù)碼表示信源所發(fā)的信號，減少容納給定消息集合或數(shù)據(jù)采集集合的signa

4、l space（信號空間）。 Physical space （物理空間）： 如存儲器、磁盤、磁帶、光盤等數(shù)據(jù)存儲介質； Time space （時間空間） 如傳輸給定消息集合所需的時間； Electromagnetic spectrum field （電磁頻譜區(qū)域）： 如為傳輸給定消息集合所要求的帶寬等Necessity（數(shù)據(jù)壓縮的必要性） 采用數(shù)字技術（或系統(tǒng)）具有許多優(yōu)越性，但也使數(shù)據(jù)量大增。 Bit rate of digital signal is expressed as I: 比特率（或數(shù)碼率、碼率、速率、數(shù)據(jù)率）一般表示為sIfRI數(shù)字音像格式數(shù)字音頻格數(shù)字音頻格式式頻帶范圍頻帶

5、范圍（Hz）取樣頻率取樣頻率（kHz）樣本精度樣本精度（bit）聲道數(shù)聲道數(shù)原始碼率原始碼率電話300-340088164調幅廣播50-700011.025161176.4調頻廣播20-1500022.03162705.6激光唱盤20-2000044.11621411.2數(shù)字錄音帶20-20000481621536數(shù)字電視格數(shù)字電視格式式每秒幀數(shù)每秒幀數(shù)圖像分辨率圖像分辨率（像素）（像素）樣本精度樣本精度（bit）亮度信號原亮度信號原始碼率始碼率CIF 格式的亮度信號30352288824.33CCIR601的亮度信號30/25720480/720576882.944HDTV亮度信號60192

6、010808995.2數(shù)據(jù)壓縮的分類 建模表示：建立一個數(shù)學模型，能夠更緊湊或更有效地“重新表達”規(guī)律性不那么明顯的原始數(shù)據(jù)； 量化：把模型參數(shù)化為有限的精度（二次量化，與原始數(shù)據(jù)的量化不同）； 熵編碼：對模型參數(shù)的量化表示或消息流進行碼字分配，以得到盡量可能緊湊的壓縮碼“熵編碼”建模表達原始數(shù)據(jù)原始數(shù)據(jù)二次量化熵編碼壓縮碼流壓縮碼流可逆壓縮 無損壓縮；無差錯壓縮編碼；無噪聲編碼；冗余度壓縮；熵編碼；數(shù)據(jù)緊縮；信息保持編碼； Shannon采樣信息論Data（數(shù)據(jù)）=information（信息）+redundancy（冗余度）不可逆壓縮 失真壓縮 熵壓縮數(shù)據(jù)壓縮的發(fā)展歷史信息壓縮技術的起源比

7、計算機的發(fā)明早幾千年信息論信息存在冗余信息存在冗余通過采用一定通過采用一定的模型和編碼方法，的模型和編碼方法，可以降低這種冗余度可以降低這種冗余度貝爾實驗室的 Claude Shannon 和 MIT R.M.Fano幾乎同時提出了最早的對符號進行有效編碼從而實現(xiàn)數(shù)據(jù)壓縮的 Shannon-Fano 編碼方法。D.A.Huffman1952 年 發(fā)表論文：“最小冗余度代碼的構造方法”A Method for the Construction of Minimum Redundancy CodesUNIX 系統(tǒng)上一個不太為現(xiàn)代人熟知的壓縮程序 COMPACT 就是 Huffman 0 階自適應編

8、碼的具體實現(xiàn) 80 年代初，Huffman 編碼又在 CP/M 和 DOS 系統(tǒng)中實現(xiàn)，其代表程序叫 SQHuffman時代：時代：60 年代、年代、70 年代乃至年代乃至 80 年代的早期年代的早期接近極限熵80年代早期，數(shù)學家們設計出算術編碼方法(Arithmetic Coding)可以證明，算術編碼得到的壓縮效果可以最大地減小信息的冗余度，用最少量的符號精確表達原始信息內容 q但是，在同樣的計算機系統(tǒng)上，算術編碼雖然可以得到最好的壓縮效果，卻要消耗也許幾十倍的計算時間 算術編碼是部分匹配預測(Predication by Partial matching, PPM)技術的變體以色列人19

9、78 年 發(fā)表論文：“通過可變比率編碼的獨立序列的壓縮”Compression of Individual Sequences via Variable-Rate Coding字典編碼時代：字典編碼時代：LZ77和和LZ78壓縮算法壓縮算法1977 年 發(fā)表論文：“順序數(shù)據(jù)壓縮的一個通用算法”A Universal Algorithm for Sequential Data CompressionLZW算法Welch 實現(xiàn)了 LZ78 算法的一個變種 UNIX：使用 LZW 算法的 Compress 程序MS-DOS：ARC 程序，以及PKWare、PKARC 等仿制品。 1984 年 發(fā)表論

10、文：“高性能數(shù)據(jù)壓縮技術”A Technique for High-Performance Data Compression 通用數(shù)據(jù)壓縮80年代中期以后，對LZ77算法進行改進Haruyasu Yoshizaki(Yoshi) 的 LHarcRobert Jung 的 ARJ 從PKZip到WinZip：通用數(shù)據(jù)壓縮格式標準 ZIPLZ77、LZ78、LZW 一起壟斷當今的通用數(shù)據(jù)壓縮領域一起壟斷當今的通用數(shù)據(jù)壓縮領域多媒體數(shù)據(jù)壓縮q國際電報電話咨詢委員會( CCITT ) ：針對二值圖像的一系列壓縮標準，如 CCITT Group3、CCITT Group4 等 (此外還包括CCITT與ISO共同制訂的JBIG標準) 。q70 年代末 80 年代初：數(shù)學家們提出了損失壓縮精度以換取壓縮率的嶄損失壓縮精度以換取壓縮率的嶄新思路新思路。國際標準化組織( ISO )和 CCITT 聯(lián)合組成了兩個委員會：靜態(tài)圖像聯(lián)合專家小組( JPEG )和動態(tài)圖像聯(lián)合專家小組( MPEG )。誕生了 JPEG、MPEG-1、MPEG-2、MPEG-4、MPEG-7 等系列標準。qPostScript矢量圖形格式：起源于 1976 年的 Evans & Sutherland 計