第2章 信源編碼技術(shù)課件

第2章信源編碼技術(shù)

2.1信源編碼的基本概念

2.2無失真信源編碼

2.3限失真信源編碼信源編碼原始的語音信號(hào)，如果不做任何處理，將含有很多的冗余信息，不利于在信道上進(jìn)行傳輸。為了提高傳輸效率，需要對(duì)該信號(hào)進(jìn)行壓縮，這一步驟稱為信源編碼。與此類似，圖像、視頻等信號(hào)的壓縮，都屬于信源編碼的范疇。最主要的目的：提高通信的有效性。信源編碼原理：冗余的存在是由于原有信息之間存在著一定的關(guān)聯(lián)，以及不同信息之間出現(xiàn)的概率分布不均勻所致。例：語音的冗余，文字的不均勻性通過編碼處理，使得信息之間成為完全獨(dú)立的符號(hào)，且出現(xiàn)概率相同，可以大大壓縮原有信息的長(zhǎng)度，而保持信息量不變。 2.1.4信源的信息度量 1.信息的基本概念 我們?cè)谇懊嬗懻摿诵旁吹姆诸惻c統(tǒng)計(jì)描述,主要利用了信源的客觀概率分布(包括概率與概率密度)特性描述了信源。為了進(jìn)一步深入定量地研究信源,僅限于上述一般化的描述是不夠的。信源就其信息實(shí)質(zhì)來說,具有不確定性,那么信息與不確定性是什么關(guān)系,而不確定性又如何利用客觀概率來表達(dá),這就是信源輸出的消息(或符號(hào))所包含信息的定量度量問題。 2.信源的信息度量

信源輸出的是消息,消息的內(nèi)涵是信息,信息的最主要特征是具有不確定性。如何度量信息的不確定性？信源的統(tǒng)計(jì)特性可以采用概率及概率密度來描述,那么度量信息的不確定性與信源的概率與概率密度是什么關(guān)系?信源輸出的信息量,信息論創(chuàng)始人Shannon將其定義為 H(X)=H［P(x1),…,P(xn)］ =E{I［P(xi)］} =E［-logP(xi)］=P(xi)logP(xi)

其中,“E”表示求概率統(tǒng)計(jì)平均值,即求數(shù)學(xué)期望值。Shannon稱H(X)為信源的信息熵,簡(jiǎn)稱為熵。從數(shù)學(xué)上看,熵是信源消息概率P(xi)的對(duì)數(shù)函數(shù)logP(xi)的統(tǒng)計(jì)平均值,故又稱為P(xi)的泛函數(shù),它是定量描述信源的一個(gè)重要物理量。熵是Shannon于1948年首先給出的一個(gè)從概率統(tǒng)計(jì)角度來描述信源不確定性的一個(gè)客觀物理量,是從信源整體角度上反映信源不確定性的度量。

4.信源編碼的理論基礎(chǔ) 現(xiàn)在我們來討論信源冗余度的概念,它是信源統(tǒng)計(jì)分析中一個(gè)非常重要的概念,是信源信息處理、信源編碼的理論依據(jù)。由于實(shí)際信源幾乎都是有記憶的,這也就是說信源輸出的消息序列的各個(gè)消息之間存在著記憶,即統(tǒng)計(jì)關(guān)聯(lián)。如果能首先定量地計(jì)算出這一統(tǒng)計(jì)關(guān)聯(lián)引入的冗余度,就能充分地利用它。下面討論冗余度及其計(jì)算。對(duì)于一個(gè)最簡(jiǎn)單二進(jìn)制信源有下列基本不等式: 0≤H(X/Y)≤H(X)≤lb2=1(2-32) 其中l(wèi)b2為離散二進(jìn)制信源消息等概率分布時(shí)的熵函數(shù)值（最大值、極值）。 例2-3關(guān)于英文文字信源冗余度的討論。 根據(jù)英文中各個(gè)字母（含空格）出現(xiàn)的概率,可列出表2-2。表2-2英文字母出現(xiàn)概率統(tǒng)計(jì)表 由表2-2,首先求得獨(dú)立等概率情況下的H0(X)值:

H0(X)=lb27=4.76b 再求獨(dú)立不等概率情況下的H1(X)值: H1(X)=P(xi)lbP(xi)=4.03b 還可進(jìn)一步求得有一階、二階記憶下的H2(X)和H3(X)為 H2(X)=3.32b

H3(X)=3.1b

最后,利用統(tǒng)計(jì)推斷方法求得H∞(X)的值。一般而言,由于采用不同的逼近方法和所取樣本上的差異,所推算的結(jié)果也不同,這里我們采用Shannon求得的推算值：

H∞(X)≈1.4b 這樣,利用公式(2-35)及(2-36)可分別求得η=0.29,R=0.71。這一結(jié)論說明英文字母信源從理論上看,有71%是多余的,即可以認(rèn)為一本100頁的英文書,理論上看僅有29頁是有效的,其余71頁從統(tǒng)計(jì)角度看完全是多余的。也正是由于理論上存在著這一多余成分,引導(dǎo)了實(shí)際工作者對(duì)英文信源進(jìn)行壓縮編碼的研究。 英文信源的分析也帶動(dòng)了各國(guó)對(duì)自己國(guó)家語言文字信源的分析,現(xiàn)將類似結(jié)果列于表2-3。表2-3不同文字信源冗余度估算 例2-4關(guān)于語音信源冗余度的一個(gè)粗略估計(jì)。 語音信源的編碼大致可以分為波形編碼、參量編碼與混合編碼三大類。這里,僅分析冗余度最大的參量編碼,即聲碼器的最大潛力。以英語為例,其音素大約有27～28個(gè),若按人們通常講話的速率,每秒鐘大約平均發(fā)送10個(gè)音素,這時(shí)英語語音信源給出的信息率為 上限：I1=lb(256)10=80b/s 下限：I2=lb(128)10=70b/s 若按PCM常規(guī)數(shù)字化編碼傳送語音,其標(biāo)準(zhǔn)速率為64kb/s,因此可求得 η1==0.00125

η2==0.0011

R1=1-η1=1-0.00125=0.99875

R2=1-η2=1-0.0011=0.9989 可見,語音參量編碼潛力巨大。定義理論上最大壓縮倍如下： K1==800(倍)

K2==914(倍)2.2無失真信源編碼

2.2.1基本原理 我們?cè)谇懊嬗懻摿藷o失真信源的信息度量：信源熵H（X）。在本節(jié)將進(jìn)一步分析討論實(shí)現(xiàn)通信系統(tǒng)優(yōu)化的無失真信源編碼定理。為了分析簡(jiǎn)化,這里僅討論最簡(jiǎn)單情況組合下的信源無失真編碼定理：離散、無記憶、平穩(wěn)、遍歷、二（多）進(jìn)制等（變）長(zhǎng)編碼條件下的信源編碼定理。 下面,我們將從直觀概念出發(fā),直接推導(dǎo)出這類簡(jiǎn)化信源編碼。首先研究等長(zhǎng)碼,參見圖2-2,其中,x為輸入,它共有L位（長(zhǎng)度）,每一位有n種取值可能;s為輸出,它共有K位（長(zhǎng)度）,每一位有m種取值可能。圖2-2信源編碼原理圖

倘若不考慮信源的統(tǒng)計(jì)特性,為了實(shí)現(xiàn)無失真并有效的編碼,應(yīng)分別滿足： 無失真要求：nL≤mK（即每個(gè)信源組合必須有對(duì)應(yīng)的編碼）(2-37) 有效性要求：nL≥mK（即編碼組合總數(shù)要小于信源組合總數(shù)）(2-38) 從式(2-37)可推出(2-39) 顯然,上述兩個(gè)條件是相互矛盾的。如何解決這一對(duì)矛盾呢？惟一的方法是引入信源的統(tǒng)計(jì)特性。這時(shí),就無需對(duì)信源輸出的全部nL種信息組合一一編碼,而僅對(duì)其中少數(shù)大概率典型組合進(jìn)行編碼。 下面,先分析公式(2-39)的含義,并在引入信源統(tǒng)計(jì)特性以后對(duì)它作適當(dāng)?shù)男薷摹９?2-39)的右端,其分子部分表示等概率信源的熵,而分母部分則表示等概率碼元的熵。當(dāng)引入信源統(tǒng)計(jì)特性以后,信源不再滿足等概率,這時(shí)分子可修改為不等概率實(shí)際信源熵H(X),則有(2-40) 再將上式稍作變化,即可求得典型Shannon第一等長(zhǎng)編碼定理形式,當(dāng)時(shí),有效的無失真信源編譯碼存在,可構(gòu)造；(2-41) 反之,當(dāng) (2-42) 時(shí),有效的無失真信源編譯碼不存在,不可構(gòu)造。 再討論變長(zhǎng)碼,這時(shí)僅需將公式(2-40)修改為 (2-43) 式中將等長(zhǎng)碼的碼長(zhǎng)K改成相對(duì)應(yīng)變長(zhǎng)碼的平均碼長(zhǎng),平均碼長(zhǎng)由下式計(jì)算： (2-44) 再將公式(2-43)稍加修改即可求得典型的Shannon第一變長(zhǎng)編碼定理形式: 對(duì)于二進(jìn)制（m=2）,則有 當(dāng)對(duì)數(shù)取2為底時(shí),有(2-45)(2-46)(2-47) 式中,K/L表示平均每個(gè)碼元的長(zhǎng)度?？梢娝笃骄總€(gè)碼元的長(zhǎng)度應(yīng)與信源熵相匹配,因此又稱為熵編碼。 實(shí)現(xiàn)無失真信源編碼的基本方法有兩大類型：一類為改造信源方式,即將實(shí)際不理想的不等概率信源變換成理想的具有最大熵值的等概率信源,再采用等長(zhǎng)編碼進(jìn)行匹配；另一類為適應(yīng)信源方式,即對(duì)實(shí)際的不等概率信源采用與之相匹配的變長(zhǎng)編碼方法,包括最佳變長(zhǎng)哈夫曼（Haffman）編碼、算術(shù)編碼以及適合于有記憶信源的游程編碼等。 2.2.2哈夫曼（Huffman）編碼 哈夫曼編碼是一種統(tǒng)計(jì)壓縮的可變長(zhǎng)編碼,它將預(yù)編碼的字符用另一套不定長(zhǎng)的編碼來表示,基本原理是：按照概率統(tǒng)計(jì)結(jié)果,出現(xiàn)概率高的字符用較短的編碼來表示,出現(xiàn)概率低的字符用較長(zhǎng)的編碼來表示。編碼壓縮性能是由壓縮率（compressionratio）來衡量的,它等于每個(gè)采樣值壓縮前的平均比特?cái)?shù)與壓縮后的平均比特?cái)?shù)之比。由于編碼的壓縮性能與編碼技術(shù)無關(guān),而與字符集的大小有關(guān),因此,通?？梢詫⒆址D(zhuǎn)化成一種擴(kuò)展的字符集,這樣采用相同的編碼技術(shù)就可以獲得更好的壓縮性能。 哈夫曼編碼過程可用于任意兩個(gè)字符集。下面分析一個(gè)任意輸入字符集到一個(gè)二進(jìn)制輸出字符集的轉(zhuǎn)換過程。哈夫曼編碼過程類似于樹形生成過程。首先列出輸入字符集及其概率（或相對(duì)頻率）,以降序排列,這些列表項(xiàng)相應(yīng)于樹枝末端,每個(gè)分支都標(biāo)注了等于該分支概率的分支權(quán)值?，F(xiàn)在開始生成包含這些分支的樹：將最低概率的兩個(gè)分支合并（在分支節(jié)點(diǎn)處）,形成一個(gè)新分支,并標(biāo)注上兩個(gè)概率的相加值；每次合并后,將新的分支和剩下的分支重新排序（若需要）,以保證減少的列表概率的遞降性,將這種排列方法稱為冒泡法。在每次合并后的重排中,新的分支在列表中不斷上升至不能上升為止。 因此,如果形成一個(gè)權(quán)值為0.2的分支,在冒泡過程中發(fā)現(xiàn)其他兩個(gè)分支的權(quán)值也是0.2,那么,新的分支將被冒泡到權(quán)值為0.2的分支組的頂端,而不是簡(jiǎn)單地加入。 冒泡到同權(quán)值組的頂端可以生成碼長(zhǎng)方差小的編碼,以降低緩沖溢出的可能性。 為了討論方便、描述準(zhǔn)確,我們定義n元素m字符集為：字符集中共有n個(gè)元素,每個(gè)元素都包含m個(gè)字符,即每個(gè)元素包含的字符數(shù)目相同。 例2-56元素單字符集的哈夫曼編碼。 設(shè)6元素單字符集中每個(gè)元素的出現(xiàn)概率如表2-4所示。表2-46元素單字符集哈夫曼編碼的詳細(xì)參數(shù)圖2-36元素單字符集的哈夫曼編碼樹 將哈夫曼編碼過程應(yīng)用于表2-4所示的輸入字符集。按照哈夫曼編碼規(guī)則,生成哈夫曼編碼樹,如圖2-3所示。然后在哈夫曼編碼樹的每個(gè)分支節(jié)點(diǎn)標(biāo)上二進(jìn)制數(shù)“0”或“1”,以區(qū)分兩個(gè)分支。 這種標(biāo)記可以是任意的,但為了保持一致,將每個(gè)節(jié)點(diǎn)的上向分支標(biāo)為“1”,下向分支標(biāo)為“0”。 標(biāo)記好之后,沿著樹徑從樹基（最右）到每個(gè)分支（最左）的路徑包含了到達(dá)該分支的二進(jìn)制序列,該二進(jìn)制序列就是分支對(duì)應(yīng)字符的哈夫曼編碼,哈夫曼編碼的詳細(xì)參數(shù)如表2-4所示。 可計(jì)算出字符集的平均碼長(zhǎng)是2.4b。這好像意味著我們必須找到一個(gè)傳輸非整數(shù)比特的方法。實(shí)際上這個(gè)結(jié)果表明,當(dāng)要傳輸100個(gè)輸入碼元時(shí),通信信道中平均需要傳輸240b。比較一下,若采用等長(zhǎng)碼來表示6元素單字符集,則碼長(zhǎng)K為3b。而輸入字符集的熵（平均信息量）為2.32b。因此,哈夫曼編碼提供了1.25（3.0/2.4）的壓縮率,該字符集編碼效率達(dá)到了96.67％（2.32/2.40）。 為了說明代碼擴(kuò)展的應(yīng)用,我們?cè)倥e一個(gè)例子。 例2-63元素單字符集的哈夫曼編碼（元素的概率分布不均勻）。 該字符集的哈夫曼編碼樹見圖2-4,其詳細(xì)參數(shù)見表2-5(i=1,2,3)。表2-53元素單字符集哈夫曼編碼的詳細(xì)參數(shù)圖2-43元素單字符集的哈夫曼編碼樹 該哈夫曼編碼的平均碼長(zhǎng)是1.27b；采用等長(zhǎng)碼則碼長(zhǎng)為2b。這里,哈夫曼編碼提供的壓縮率是1.57（2/1.27）,比6元素單字符集的1.25大。但是,應(yīng)用式(2-21)計(jì)算字符集的熵（平均信息量）為0.9443b,該字符集編碼效率為74.35％（0.9443/1.27）,卻比6元素單字符集的96.67％小。這是因?yàn)?元素單字符集的信息熵（2.32b）與平均碼長(zhǎng)（2.4b）的匹配比3元素單字符集的信息熵（0.9443b）與平均碼長(zhǎng)（1.27b）的匹配要好。 由此可見,由于有較多元素的字符集具有較大的信息熵（平均信息量）,使得信息熵與平均碼長(zhǎng)的匹配更好些,所以具有更高的編碼效率。為了提高編碼效率或獲得更大的壓縮增益,必須重新定義信源字符集的元素,對(duì)字符集進(jìn)行擴(kuò)展。具體的方法是：每次從源字符集（3元素單字符集）中選擇兩個(gè)元素,排序形成擴(kuò)展字符集（9元素雙字符集）的新元素。如果假定元素是獨(dú)立的,那么每個(gè)新元素的概率是各個(gè)元素獨(dú)立概率之乘積。擴(kuò)展字符集為X{xi∈X,i=1,2,…,9},每個(gè)元素xi的編碼序列通過上述哈夫曼過程獲得,擴(kuò)展后的9元素雙字符集的參數(shù)如表2-6所示?？梢运愠鰯U(kuò)展后的9元素雙字符集的壓縮率是2.07（2/0.9671）,編碼效率是97.64％（0.9443/0.9671）,比擴(kuò)展前的3元素單字符集的壓縮率1.57、編碼效率74.35％有明顯的提高。表2-63元素單字符集擴(kuò)展為9元素雙字符集

擴(kuò)展碼提供了一種利用碼元關(guān)聯(lián)性的技術(shù)。例如,英文中的相鄰字母有很強(qiáng)的關(guān)聯(lián)性。特別常見的字母對(duì)有： threin shhee_ deeds_ ngatr_ teesd_ 下劃線代表一個(gè)空格。類似地,常見的3元組合有： theandfor ingioness 因此,一般不對(duì)單個(gè)字母采用哈夫曼編碼,而是將字符集擴(kuò)展為包含所有單字母、常見2字母和3字母組合的擴(kuò)展字符集,然后再對(duì)擴(kuò)展字符集進(jìn)行哈夫曼編碼,這樣可以得到更高的編碼效率。 例2-7概率分布均勻的3元素單字符集的哈夫曼編碼。 該字符集的哈夫曼編碼樹見圖2-5,其詳細(xì)參數(shù)見表2-7(i=1,2,3)。圖2-5概率分布均勻的3元素單字符集的哈夫曼編碼樹表2-7概率分布均勻的3元素單字符集哈夫曼編碼的詳細(xì)參數(shù) 該哈夫曼編碼的平均碼長(zhǎng)是1.667b,采用等長(zhǎng)碼時(shí)碼長(zhǎng)為2b,則哈夫曼編碼提供的壓縮率是1.20（2/1.667）。應(yīng)用式(2-21)計(jì)算字符集的熵（平均信息量）為1.585b,該字符集編碼效率為95.08％（1.585/1.667）。 若把該3元素單字符集擴(kuò)展為9元素雙字符集,則擴(kuò)展后的9元素雙字符集的參數(shù)如表2-8所示。 可算出擴(kuò)展后的9元素雙字符集的壓縮率是1.24（2/1.611）,編碼效率是98.39％（1.585/1.611）,與擴(kuò)展前的3元素單字符集的壓縮率1.20、編碼效率95.08％相比較,有提高但提高的幅度不大。表2-8概率分布均勻的3元素單字符集擴(kuò)展為9元素雙字符集

通過例2-6與例2-7的比較,我們可以得出以下兩點(diǎn)結(jié)論: ①字符集的哈夫曼編碼的編碼效率和壓縮率與字符集的概率分布有關(guān),概率分布不均勻,編碼效率低,壓縮率高；概率分布均勻,編碼效率高,壓縮率低。 ②擴(kuò)展后的字符集的編碼效率和壓縮率提高的幅度與原字符集的概率分布有關(guān),概率分布不均勻,編碼效率和壓縮率提高的幅度大；概率分布均勻,編碼效率和壓縮率提高的幅度小。 故哈夫曼編碼適合用于概率分布不均勻的信源。

哈夫曼編碼方法是一種不等長(zhǎng)最佳編碼方法,此處的最佳是指：對(duì)于相同概率分布的信源而言,它的平均碼長(zhǎng)比其他任何一種有效編碼方法的平均碼長(zhǎng)都短。2.3限失真信源編碼 2.3.1基本原理 若有一個(gè)離散、無記憶、平穩(wěn)信源,其信息率失真函數(shù)為R(D),則當(dāng)通信系統(tǒng)中實(shí)際信息率R＞R(D)時(shí),只要信源序列L足夠長(zhǎng)(L→∞),一定存在一種編碼方式C′使其譯碼以后的失真小于或等于D+ε,且ε為任意小的正數(shù)(ε→0),反之,若R＜R(D),則無論用什么編碼方式,其譯碼失真必大于D。 與實(shí)現(xiàn)無失真信源編碼的方法類似,實(shí)現(xiàn)限失真信源編碼的方法也分為兩大類型：一類為適應(yīng)信源方式,即首先承認(rèn)信源的實(shí)際客觀概率統(tǒng)計(jì)特性,再尋找適應(yīng)這類概率統(tǒng)計(jì)特性的編碼方法。 比如充分考慮并利用信源消息序列的各個(gè)消息變量（或各取樣值）之間的統(tǒng)計(jì)關(guān)聯(lián)（記憶特性）的矢量量化編碼；另一類是改造信源方式,其著眼點(diǎn)首先是改造信源的客觀統(tǒng)計(jì)特性,即解除實(shí)際信源消息序列的各個(gè)消息（或各取樣值）之間的統(tǒng)計(jì)關(guān)聯(lián)相關(guān)特性,將有記憶信源改造為無記憶信源,甚至還可以進(jìn)一步將無記憶信源變換為理想最大熵等概率信源。第一類：矢量量化編碼，第二類：預(yù)測(cè)編碼與變換編碼。 2.3.2連續(xù)信源的限失真信源編碼 1.標(biāo)量量化 標(biāo)量量化與連續(xù)信源的模擬信號(hào)數(shù)字化緊密相連。數(shù)字化是當(dāng)今通信技術(shù)發(fā)展的必然趨勢(shì),也是信息化社會(huì)的基礎(chǔ)。常見的電話、傳真、電視等信號(hào)都是連續(xù)的模擬信號(hào),但是為了傳輸、處理、存儲(chǔ)與交換的方便,同時(shí)為了提高通信質(zhì)量以及設(shè)備生產(chǎn)、維護(hù)的方便,通常需要對(duì)模擬信號(hào)數(shù)字化。 下面以電話的語音信號(hào)為例,簡(jiǎn)單介紹數(shù)字化的基本原理。PCM編碼過程PCM：脈沖編碼調(diào)制，主要用于語音信號(hào)的預(yù)處理，分為三大步驟：取樣量化編碼語音信號(hào)的頻帶為300-3400Hz（聲波），通過話筒后，聲波轉(zhuǎn)化為電信號(hào)，頻率不變。（實(shí)際頻帶可達(dá)20000Hz，通過濾波器加以限制）取樣：根據(jù)取樣定理，上述語音信號(hào)可以由離散信號(hào)轉(zhuǎn)變?yōu)閿?shù)字信號(hào)，取樣頻率一般為8000Hz，即每秒鐘取樣8000次。原來的模擬語音信號(hào)轉(zhuǎn)變?yōu)闄M軸離散的抽樣信號(hào)。量化：被抽樣后的語音信號(hào)，其幅度依然為連續(xù)值，為了轉(zhuǎn)變?yōu)檫m宜在數(shù)字系統(tǒng)中傳輸?shù)男盘?hào)，需要進(jìn)行離散化，也就是量化過程。均勻量化：量化階相等非均勻量化：量化階不等編碼：量化后，原有的每個(gè)樣點(diǎn)值由一串?dāng)?shù)字序列表示，量化越精確，序列長(zhǎng)度越長(zhǎng)。目前用8位bit表示一個(gè)樣點(diǎn)。每秒的bit數(shù)則為：？？ 語音信號(hào)數(shù)字化的三個(gè)基本步驟：取樣、量化與編碼，分別完成對(duì)模擬信號(hào)橫向時(shí)間軸的離散化、縱向取值域的離散化,以及將已被離散化的數(shù)值編成相應(yīng)的0、1序列的碼組。第二個(gè)基本步驟量化就是一維的標(biāo)量量化,屬于典型的限失真編碼。 量化的實(shí)質(zhì)是把時(shí)間上離散的抽樣值的取值范圍按照一定的規(guī)則從無限多個(gè)數(shù)值轉(zhuǎn)換為有限多個(gè)數(shù)值,即抽樣值只能取有限多個(gè)數(shù)值中的一個(gè)。 為了簡(jiǎn)化,設(shè)量化電平數(shù)為l=23=8,對(duì)以上三個(gè)基本步驟用比較形象的圖形表示,如圖2-6所示。 在如圖2-6所示的模擬信號(hào)數(shù)字化過程中,圖(a)表示語音信源輸出的原始連續(xù)模擬信號(hào)x(t)；圖(b)表示對(duì)原始模擬信號(hào)按均勻間隔Ts抽樣后橫向離散化的連續(xù)樣值序列x(kTs)，其取值是0～7電平區(qū)間內(nèi)的某一個(gè)值,其取值數(shù)為無限多個(gè)；圖(c)表示對(duì)已橫向離散化的連續(xù)樣值再經(jīng)過縱向離散化的量化處理后的量化序列值xl(kTs),量化是按照“四舍五入”的規(guī)則進(jìn)行的,量化后的樣值在0～7的8個(gè)整數(shù)值中選取某一個(gè)值,其取值數(shù)為有限多個(gè)（此處是8個(gè)）。例如當(dāng)k=0時(shí),x(0)＝0.3,它小于0.5,量化后的xl(0)＝0電平；當(dāng)k＝1時(shí),x(Ts)＝1.9,超過1.5小于2.5,量化后的xl(Ts)＝2電平,依次類推,顯然量化屬于限失真編碼；圖(d)表示對(duì)每個(gè)量化序列值進(jìn)行對(duì)應(yīng)的二進(jìn)制編碼。 8電平可以采用3位二進(jìn)制編碼來表示,例如,當(dāng)k＝0時(shí),0量化電平可以編成3位二進(jìn)制碼組為000,當(dāng)k＝1時(shí),2量化電平可以編成010,依次類推；圖(e)表示圖(c)中的量化序列值與圖(b)中相應(yīng)的抽樣序列值之間的量化誤差序列值Ek=xl(kTs)-x(kTs)。例如當(dāng)k＝0時(shí),量化值0與抽樣值0.3之間的量化誤差E0=xl(0)-x(0)=0-0.3=-0.3,當(dāng)k＝1時(shí),量化誤差E1＝xl(Ts)-x(Ts)＝2－1.9＝0.1,依次類推。圖2-6模擬信號(hào)數(shù)字化過程原理示意圖圖2-6模擬信號(hào)數(shù)字化過程原理示意圖圖2-15量化的基本過程 當(dāng)輸入信號(hào)x的幅度落在xl和xl+1之間時(shí),量化器的輸出為yl,其表達(dá)式為 yl=Q{xl≤x＜xl+1}l=1,2,…,L(2-72) 式中,yl稱為量化電平或重建電平,xl稱為分層電平。分層電平之間的間隔Δl=xl+1-xl稱為量化間隔,也稱為量階或階距。量化間隔相等時(shí)稱為均勻量化,不相等時(shí)稱為非均勻量化。 量化器輸出與輸入之間的關(guān)系稱為量化特性,可用量化特性曲線來形象地表示。一個(gè)理想的線性系統(tǒng),其輸出/輸入特性為一條直線,而量化器的輸出/輸入特性是階梯形曲線。階梯面之間的距離為階距。均勻量化器的特性曲線是等階距的,非均勻量化器的特性曲線是不等階距的。根據(jù)階梯面的位置,量化特性曲線又可分為中升型和中平型。各種量化特性曲線如圖2-16所示。

圖2-16各種量化特性曲線(a)非均勻中升型；(b)均勻中升型；

圖2-16各種量化特性曲線(c)非均勻中平型；(d)均勻中平型 量化器的輸入是連續(xù)值,輸出是離散值,所以輸入與輸出之間必然存在著誤差。由于這種誤差是因量化而產(chǎn)生的,所以稱為量化誤差。定義量化誤差為量化器的輸出與輸入之差,則第k個(gè)樣值的量化誤差為Δq(kTs)=xl(kTs)-x(kTs)(2-73) 圖2-17給出了量化誤差Δq(kTs)的示意圖。圖2-17量化誤差Δq(kTs)的示意圖 圖中,連續(xù)曲線x(t)表示原始模擬信號(hào)；x(kTs)表示第k個(gè)樣值,記為“■”；xl(kTs)表示第k個(gè)樣值的量化值,記為“▲”；Δq(kTs)表示第k個(gè)樣值的量化誤差值。 如果不考慮具體樣值,式(2-73)可以簡(jiǎn)化為 Δq=yl-x=Q(x)-x(2-74) 量化誤差Δq的變化規(guī)律是由x的取值規(guī)律所決定的。當(dāng)x是確定性信號(hào)時(shí),Δq是一個(gè)確定性函數(shù)；當(dāng)x是隨機(jī)信號(hào)時(shí),Δq是一個(gè)隨機(jī)變量。量化誤差的存在對(duì)信號(hào)的解調(diào)必定會(huì)產(chǎn)生影響,這種影響會(huì)引起信號(hào)的失真,所以量化為限失真編碼。 由此看來量化誤差對(duì)信號(hào)的影響是一種干擾,所以通常又把量化誤差稱為量化噪聲。量化噪聲是正、負(fù)交變的隨機(jī)變量,其平均值為零,所以量化噪聲對(duì)信號(hào)的影響要用平均功率來度量。量化噪聲的平均功率用均方誤差表示。設(shè)輸入信號(hào)x的幅度概率密度為px(x),量化噪聲的平均功率為(2-75) 由于有L個(gè)量化間隔,因此可以把積分區(qū)域分割成L個(gè)區(qū)間,上式可寫成 式(2-76)是計(jì)算量化噪聲平均功率的基本公式。在給定消息源的情況下,px(x)是已知的,因此量化噪聲的平均功率與量化間隔的大小和分割方式有關(guān)。量化理論就是研究如何使量化噪聲的平均功率最小或者符合一定的規(guī)律。

(2-76) 與其他電子系統(tǒng)類似,通常用量化器輸出端的信號(hào)噪聲功率比（簡(jiǎn)稱量化信噪比,通常用符號(hào)SNR表示）來衡量量化器的質(zhì)量,量化信噪比SNR的表達(dá)式為 式中,E表示求統(tǒng)計(jì)平均,Sq表示量化器輸出的信號(hào)功率,Nq表示量化噪聲功率。(2-77) （4）非均勻量化。 量化間隔不相等的量化稱為非均勻量化。從理論分析的角度看,非均勻量化可認(rèn)為是先對(duì)信號(hào)進(jìn)行非線性變換,然后再進(jìn)行均勻量化。具體過程為：在發(fā)送端對(duì)輸入信號(hào)先進(jìn)行一次非線性壓縮變換z=f(x),然后對(duì)z進(jìn)行均勻量化、編碼并發(fā)送出去；在接收端,對(duì)接收到的信號(hào)解碼,得到量化電平,再對(duì)量化電平進(jìn)行一次相反的非線性擴(kuò)張變換f-1(x)，才能恢復(fù)原始信號(hào),如圖2-19所示。在實(shí)際實(shí)現(xiàn)非均勻量化時(shí),通常是把瞬時(shí)壓縮與編碼結(jié)合起來一次實(shí)現(xiàn)非線性編碼。圖2-19非均勻量化原理框圖

由于f(x)和f--1(x)分別具有把信號(hào)幅度范圍壓縮與擴(kuò)張的作用,所以f(x)稱為壓縮特性,f--1(x)稱為擴(kuò)張?zhí)匦浴榱诵蜗蟮卣f明壓縮與擴(kuò)張的原理,可用圖2-20的圖形來解釋壓縮與擴(kuò)張?zhí)幚淼倪^程。為了方便,將擴(kuò)張?zhí)匦缘淖鴺?biāo)改為垂直輸入和水平輸出。因此,表面上兩個(gè)曲線相同,實(shí)際上兩個(gè)特性曲線正好是互補(bǔ)的。 在圖2-20中,輸入有兩個(gè)樣值,A1=2,B1=40,設(shè)均勻量化器間距Δ=1,此時(shí)最大量化誤差為0.5。如果對(duì)樣值直接進(jìn)行均勻量化,樣值與最大量化誤差之比分別為4和80,但是若經(jīng)過壓縮處理,由圖2-20可知,兩個(gè)樣值對(duì)應(yīng)的輸出分別為A2=10,B2=40,此時(shí)樣值與最大量化誤差之比分別為20和80,顯然提高了弱信號(hào)的質(zhì)量,同時(shí)樣值的動(dòng)態(tài)范圍也明顯縮小。在接收端,量化值通過擴(kuò)張?zhí)幚砗?輸出又分別還原為A3=2,B3=40,并使動(dòng)態(tài)范圍擴(kuò)大到原來的范圍。圖2-20壓縮與擴(kuò)張過程 考慮到實(shí)際量化器輸入的工作動(dòng)態(tài)范圍大約為45dB,按照在動(dòng)態(tài)范圍內(nèi)量化器的信噪比盡可能保持平穩(wěn)的要求,可設(shè)計(jì)量化器使之具有對(duì)數(shù)量化特性。這樣在大信號(hào)電平時(shí)信噪比相對(duì)于均勻量化要低一些,在小信號(hào)電平時(shí)信噪比相對(duì)于均勻量化則明顯提高。對(duì)于對(duì)數(shù)壓縮特性,其量化輸出信噪比SNR始終可以保持為一常數(shù)。在實(shí)際應(yīng)用中,理想對(duì)數(shù)量化是無法實(shí)現(xiàn)的,因?yàn)樗螽?dāng)x→0時(shí)f(x)→-∞,所以在工程設(shè)計(jì)時(shí)一般是將上述理想對(duì)數(shù)特性在x→0的小信號(hào)段進(jìn)行適當(dāng)?shù)男拚?以便于實(shí)現(xiàn)。 基于對(duì)語音信號(hào)的大量統(tǒng)計(jì)和研究,國(guó)際電話電報(bào)咨詢委員會(huì)（CCITT）建議采用兩種近似對(duì)數(shù)壓縮特性：μ律與A律。其中μ律是較早的一種,它是美國(guó)與日本采用的24路系列的近似對(duì)數(shù)壓縮特性；而另一種A律是稍晚由歐洲國(guó)家提出的,它是歐洲和我國(guó)采用的32路系列的近似對(duì)數(shù)壓縮特性。不管是μ律還是A律,它們都是具有近似對(duì)數(shù)特性且通過原點(diǎn)呈中心對(duì)稱的曲線。為了簡(jiǎn)化,通常只畫出第一象限圖形。 ①μ律對(duì)數(shù)壓縮特性。 為了簡(jiǎn)明統(tǒng)一,將量化器輸入信號(hào)xi對(duì)量化器最大量化電平V進(jìn)行歸一化處理,則量化器滿載電壓的歸一化值為±1,量化器輸入信號(hào)的歸一化值為

μ律對(duì)數(shù)壓縮特性定義為(2-100)(2-101) 式中,μ為壓縮系數(shù),μ=0時(shí)無壓縮,μ越大壓縮效果越明顯,在國(guó)際標(biāo)準(zhǔn)中取μ=255。 在μ=255的條件下,當(dāng)量化電平數(shù)L=256即編碼位數(shù)n=8時(shí),與均勻量化相比較,μ律對(duì)數(shù)壓縮特性對(duì)小信號(hào)的信噪比改善值為33.5dB。μ律對(duì)數(shù)壓縮特性曲線如圖2-22(a)所示。圖2-22μ律與A律對(duì)數(shù)壓縮特性曲線(a)μ律;(b)A律 ②A律對(duì)數(shù)壓縮特性。 同樣,對(duì)量化器輸入信號(hào)進(jìn)行歸一化處理后,A律對(duì)數(shù)壓縮特性定義為(2-102) 式中,A為壓縮系數(shù),A=0時(shí)無壓縮,A越大壓縮效果越明顯,在國(guó)際標(biāo)準(zhǔn)中取A=87.6。 由式(2-102)可知,在0≤x＜1/A范圍內(nèi),f(x)是線性函數(shù),對(duì)應(yīng)一段直線,相當(dāng)于均勻量化特性；在1/A≤x＜1范圍內(nèi),f(x)是對(duì)數(shù)函數(shù),對(duì)應(yīng)一段對(duì)數(shù)曲線,為非均勻量化特性。在A=87.6的條件下,當(dāng)量化電平數(shù)L=256即編碼位數(shù)n=8時(shí),與均勻量化相比較,A律對(duì)數(shù)壓縮特性對(duì)小信號(hào)的信噪比改善值為24dB。A律對(duì)數(shù)壓縮特性曲線如圖2-22(b)所示。 ③對(duì)數(shù)壓縮特性的折線近似。 早期的μ律和A律對(duì)數(shù)壓縮特性是用模擬電路來實(shí)現(xiàn)的,其精度、一致性以及保證壓縮與擴(kuò)張?zhí)匦缘钠ヅ涞榷际艿较拗?。后來采用折線來近似光滑曲線,可用數(shù)字技術(shù)實(shí)現(xiàn)。隨著大規(guī)模、超大規(guī)模數(shù)字集成電路的出現(xiàn),其質(zhì)量性能等得到了進(jìn)一步的改善。 采用折線法逼近μ律和A律已形成國(guó)際標(biāo)準(zhǔn)。μ律對(duì)數(shù)壓縮特性采用15折線來近似,如圖2-23所示,圖中只畫出了輸入信號(hào)為正時(shí)的情形。橫坐標(biāo)表示輸入信號(hào)幅度的歸一化值x,其范圍為(0,1),被不均勻地劃分為8個(gè)區(qū)間。它的7個(gè)劃分點(diǎn)的分母均為28-1,分子依次為2n-1(n=1,2,…,7)?？v坐標(biāo)表示輸出信號(hào)幅度的歸一化值z(mì),其范圍也為(0,1),但被均勻地劃分為8個(gè)區(qū)間。 這樣,以橫坐標(biāo)的劃分點(diǎn)作為橫坐標(biāo),以縱坐標(biāo)的劃分點(diǎn)作為縱坐標(biāo),兩者一一對(duì)應(yīng)構(gòu)成折線的7個(gè)拐點(diǎn),分別為（1/255,1/8）、（3/255,2/8）、（7/255,3/8）、（15/255,4/8）、（31/255,5/8）、（63/255,6/8）和（127/255,7/8）。用直線順序連接原點(diǎn)和這7個(gè)拐點(diǎn)并最后連接到（1,1）點(diǎn),就可以作出由8段直線連接而成的一條折線。因?yàn)閴嚎s特性關(guān)于原點(diǎn)中心對(duì)稱,所以當(dāng)輸入信號(hào)為負(fù)時(shí),負(fù)方向也有8個(gè)線段(圖中未畫出)。由于負(fù)方向第一段與正方向第一段斜率相同,因此共有15條線段。這條折線被稱為μ律15折線,與μ=255的對(duì)數(shù)壓縮特性很接近。顯然,在第一段內(nèi)與μ=255的對(duì)數(shù)壓縮特性公式(2-101)是相等的。圖2-23μ律15折線 A律對(duì)數(shù)壓縮特性采用13折線法來近似,如圖2-24所示,圖中只畫出了輸入信號(hào)為正時(shí)的情形。橫坐標(biāo)表示輸入信號(hào)幅度的歸一化值x,其范圍為(0,1),被不均勻地劃分為8個(gè)區(qū)間,從右向左每個(gè)區(qū)間長(zhǎng)度以1/2倍遞減。其劃分方法是：取區(qū)間(0,1)的中點(diǎn)將其分為左、右兩個(gè)1／2區(qū)間,右1／2區(qū)間為第8區(qū)間；取左1／2區(qū)間的中點(diǎn)將其分為左、右兩個(gè)1／4區(qū)間,右1／4區(qū)間為第7區(qū)間；取左1／4區(qū)間的中點(diǎn)將其分為左、右兩個(gè)1／8區(qū)間,右1／8區(qū)間為第6區(qū)間；依次下去,直到左1／128區(qū)間為第1區(qū)間。 縱坐標(biāo)表示輸出信號(hào)幅度的歸一化值z(mì),其范圍也為(0,1),但被均勻地劃分為8個(gè)區(qū)間。這樣,以橫坐標(biāo)的劃分點(diǎn)作為橫坐標(biāo),以縱坐標(biāo)的劃分點(diǎn)作為縱坐標(biāo),兩者一一對(duì)應(yīng)構(gòu)成折線的7個(gè)拐點(diǎn),分別為（1/128,1/8）、（1/64,2/8）、（1/32,3/8）、（1/16,4/8）、（1/8,5/8）、（1/4,6/8）和（1/2,7/8）。用直線順序連接原點(diǎn)和這7個(gè)拐點(diǎn)并最后連接到（1,1）點(diǎn),就可以作出由8段直