第二章信息量化與編碼

第二章信息量化與編碼第一頁(yè)，共三十六頁(yè)，編輯于2023年，星期一（3）信息量化與編碼要研究的主要問(wèn)題從信息的角度來(lái)看，當(dāng)信號(hào)由連續(xù)幅度轉(zhuǎn)換成離散幅度時(shí)，必然會(huì)有信息的損失，因此，信息量化屬于有失真編碼。不過(guò)，通過(guò)適當(dāng)?shù)脑O(shè)計(jì)，我們可以將這種損失減至能接受的地步。從這種意義出發(fā)，信息量化與編碼要研究的問(wèn)題便是如何進(jìn)行有效的設(shè)計(jì)，使在一定條件下，編碼的失真達(dá)到最小。第二頁(yè)，共三十六頁(yè)，編輯于2023年，星期一2.2標(biāo)量量化（1）標(biāo)量量化的定義：

標(biāo)量量化可以視為將一段連續(xù)的實(shí)軸上的線映射成一個(gè)離散的點(diǎn)集，這個(gè)離散點(diǎn)集的大小是受限的，若記此離散點(diǎn)集為C={y1,y2,...yN},一般我們約定下標(biāo)的排列是以y值的大小為序的，即y1<y2<…<yN

記R表示連續(xù)實(shí)軸。當(dāng)量化器為n點(diǎn)時(shí)，相當(dāng)于將R劃分為N個(gè)區(qū)段Ri,Ri=(xi-1,xi],i=1,2,…,N,為半開(kāi)半閉區(qū)間。顯然，區(qū)間的劃分是充分以及不相交的。記Q表示量化器，則Q的特性完全決定于對(duì)輸入信號(hào)的分段及輸出值決定。

第三頁(yè)，共三十六頁(yè)，編輯于2023年，星期一(2)一個(gè)正規(guī)量化器還滿足如下的條件：①：每個(gè)分段Ri都是一個(gè)連續(xù)的區(qū)間，可以是開(kāi)的，或半開(kāi)半閉的。②：每個(gè)分段Ri對(duì)應(yīng)的量化值yi位于Ri中，即yi∈Ri=（xi-1,xi）.

正規(guī)量化器的輸入分段邊界點(diǎn)xi及量化輸出點(diǎn)yi滿足已下序列關(guān)系：x0<y1<x1<y2<x2<…<yN<xN第四頁(yè)，共三十六頁(yè)，編輯于2023年，星期一正規(guī)量化器典型量化曲線圖第五頁(yè)，共三十六頁(yè)，編輯于2023年，星期一在一般情況下，輸入信號(hào)都是有界的，此時(shí)，最兩端的邊界點(diǎn)一般取為x0=min(x),xN=max(x),而量化器的量化范圍為B=xN-x1。對(duì)于輸入無(wú)界的情形，相當(dāng)于x0=-∞,xN=+∞,量化器的量化范圍定義為B=xN-1-x1,即量化范圍為所有輸入分段之和的長(zhǎng)度。從結(jié)構(gòu)上看，量化器可分編碼器與解碼器兩個(gè)部分。編碼器完成輸入到數(shù)字的映射，即ε:R→I，I={1,2,…N},而解碼器則是實(shí)現(xiàn)由數(shù)字到電平的轉(zhuǎn)換,即D:I→C.若Q(x)=yi,則有ε(x)=i,D(i)=yi,亦即Q(x)=D(ε(x))。在通信系統(tǒng)中，編碼器只能傳送所選量化電平y(tǒng)i的下標(biāo)i，而不是yi

本身。解碼器根據(jù)接收到的下標(biāo)i,通過(guò)查表可得到相應(yīng)的電平值。第六頁(yè)，共三十六頁(yè)，編輯于2023年，星期一2.2.2標(biāo)量量化器結(jié)構(gòu)量化器的特性完全取決于輸入分段及輸出電平集合，編碼器實(shí)現(xiàn)的主要是輸入分段，而解碼器實(shí)現(xiàn)的則是輸出電平。也就是說(shuō)，編碼器的主要功能是判定輸入信號(hào)位于哪一個(gè)信號(hào)分段之內(nèi)，所以我們可以定義一個(gè)選擇函數(shù)Si(x)如下：實(shí)現(xiàn)選擇函數(shù)Si(x)的系統(tǒng)結(jié)構(gòu)如圖所示

第七頁(yè)，共三十六頁(yè)，編輯于2023年，星期一解碼器的實(shí)現(xiàn)直接通過(guò)下標(biāo)i查表即可得到相應(yīng)的量化電平y(tǒng)i。因此，我們可將量化器的特性表示成如下形式:量化器的基本結(jié)構(gòu)圖第八頁(yè)，共三十六頁(yè)，編輯于2023年，星期一2.2.3量化器性能測(cè)度1.均方誤差量化器的功能是將未知輸入值用有限精度的離散值來(lái)代替，因此不可避免的要引起失真，如何衡量這種失真便是本節(jié)要討論的問(wèn)題。根據(jù)量化的結(jié)果，我們無(wú)法精確知道輸入值的大小，只能知道其位于某個(gè)范圍內(nèi)。因此通常都假設(shè)輸入是一個(gè)隨機(jī)變量，概率密度函數(shù)已知，相應(yīng)的每個(gè)輸入值的量化誤差也是一個(gè)隨機(jī)變量。量化器的性能指標(biāo)應(yīng)是描述所有輸入值量化誤差引起的總的失真效應(yīng)。因此常用統(tǒng)計(jì)平均的方法來(lái)解決這類(lèi)問(wèn)題。最常用的的失真測(cè)度是平方誤差，定義為第九頁(yè)，共三十六頁(yè)，編輯于2023年，星期一更為一般的是乘冪誤差，定義為

其中m=1時(shí)即為絕對(duì)誤差，m=2時(shí)為平方誤差，這兩種情形應(yīng)用得最為普遍。

第十頁(yè)，共三十六頁(yè)，編輯于2023年，星期一

設(shè)輸入隨機(jī)過(guò)程X的概率密度為fX(x),則輸入量化誤差的期望值為此公式所示的D是一種最常用的性能測(cè)度。而其中又以誤差測(cè)度為平方誤差時(shí)最為普遍，此時(shí)的性能測(cè)度又稱(chēng)為均方誤差，可寫(xiě)為：第十一頁(yè)，共三十六頁(yè)，編輯于2023年，星期一2性噪比

性噪比是另一個(gè)常用的性能測(cè)度，定義為其中，D為均方誤差。SNR的單位為分貝（db）第十二頁(yè)，共三十六頁(yè)，編輯于2023年，星期一2.2.4均勻量化器最常用的標(biāo)量量化器是均勻量化器，大多數(shù)的模擬/數(shù)字轉(zhuǎn)換器就屬于此類(lèi)。所謂均勻量化器，是一個(gè)正規(guī)量化器，并且滿足：（1）各個(gè)分段是等長(zhǎng)的；（2）每個(gè)分段的中點(diǎn)即為相應(yīng)的量化輸出。

換言之，對(duì)于均勻量化器，我們有當(dāng)然，輸入信號(hào)的左右邊界可能是無(wú)限的，對(duì)于區(qū)間(-∞，y1],我們有y1=x1-△/2,對(duì)區(qū)間[yN,+∞)，有yN=xN-1

+

△/2。

第十三頁(yè)，共三十六頁(yè)，編輯于2023年，星期一下面我們分析均勻量化器的均勻失真

考慮輸入為有界的情形，不妨設(shè)位于區(qū)間（a,b）之內(nèi)，變化范圍為B=b-a。左右兩邊的邊界點(diǎn)分別為：x0=a,xN=b。假定將區(qū)間分為N等分，每個(gè)子區(qū)間為△=B/N,也就是量化器有N級(jí)輸出，每級(jí)之間相距△。

量化誤差ε=Q(X)-X,所以在均勻量化時(shí)，最大的可能量化誤差為△/2，即B/2N。所以均勻量化誤差是一種使最大量化誤差達(dá)到最小的量化方式。這一特點(diǎn)使得均勻量化在很廣泛的一類(lèi)輸入信號(hào)下，都能保持較好的量化性能。這正是模擬/數(shù)字轉(zhuǎn)換器大多采用均勻量化方式的原因。

第十四頁(yè)，共三十六頁(yè)，編輯于2023年，星期一當(dāng)輸入信號(hào)亦為均勻分布時(shí)，量化誤差ε的均值總的失真為在實(shí)際情況中，輸入信號(hào)大多不是有界的，此時(shí)，我們可將左右兩端的區(qū)間（-∞，x1],(XN-1,+∞]單獨(dú)取出來(lái)考慮。其余的區(qū)間與上述有界信號(hào)輸入時(shí)是一樣的。不過(guò)在無(wú)界輸入的情況下，最大量化誤差也必定是無(wú)限的，因此沒(méi)有什么意義。主要的性能測(cè)度是平均量化誤差，由于多數(shù)輸入信號(hào)的分布主要集中于某一個(gè)區(qū)間，輸入信號(hào)位于左右兩端的區(qū)間的機(jī)會(huì)很小，因此上述對(duì)有限輸入信號(hào)的結(jié)論依然是近似成立的，特別是當(dāng)量化層數(shù)N很大時(shí)。第十五頁(yè)，共三十六頁(yè)，編輯于2023年，星期一2.2.5非均勻量化器一.壓擴(kuò)模型

均勻量化器有一個(gè)缺點(diǎn)，即當(dāng)輸入信號(hào)變化范圍大時(shí)，量化器量化層數(shù)也必須相應(yīng)變大，以保持一定的性能。而由于在許多實(shí)際場(chǎng)合，輸入信號(hào)并不是均勻分布的，且取大值的概率相對(duì)小一些，所以，從統(tǒng)計(jì)的觀點(diǎn)來(lái)看，均勻量化器這種大小信號(hào)一視同仁均勻量化的方法不太合理。因此產(chǎn)生了非均勻量化的概念。從直觀上看，當(dāng)輸入信號(hào)不是均勻分布時(shí)，就應(yīng)該用非均勻量化器。第十六頁(yè)，共三十六頁(yè)，編輯于2023年，星期一非均勻量化器可用均勻量化器的壓擴(kuò)模型表示，如圖由圖可見(jiàn)，輸入信號(hào)x首先經(jīng)過(guò)單調(diào)非線性變換G，變成G(x),然后對(duì)G(x)進(jìn)行均勻量化，最后再經(jīng)非線性變換G的逆變換G-1,得到最后的非均勻量化輸出。其中，G通常是一個(gè)壓縮變換，因?yàn)榇蠖鄶?shù)信號(hào)的分布都是集中在某一區(qū)域內(nèi)的，對(duì)應(yīng)的，G-1

為一個(gè)擴(kuò)張變換。第十七頁(yè)，共三十六頁(yè)，編輯于2023年，星期一結(jié)論2.1（壓擴(kuò)模型的通用性）對(duì)任何有限正規(guī)的量化器，都存在著如圖2-2-6所示的壓擴(kuò)模型，其中壓擴(kuò)變換G及擴(kuò)張變換G-1

與輸入信號(hào)的概率分布有關(guān)。證明：設(shè)輸入信號(hào)分段邊界點(diǎn)為{x1,x2,…,XN-1},(x0,xN可以是無(wú)窮大，不考慮)，輸出值為{y1,y2,...yN}。我們按以下方式構(gòu)造壓擴(kuò)模型。首先定義兩個(gè)集合：P={(yi,i△+k),i=1,2,…,N}Q=={(xi,i△+△/2+

k),i=1,2,…,N-1}P中包含平面上N個(gè)點(diǎn)，這N個(gè)點(diǎn)橫坐標(biāo)是yi，而縱坐標(biāo)則是一系列以△為間隔的等間距點(diǎn)。Q的情況類(lèi)似。將P及Q兩個(gè)集合代表的平面重疊在一起，則可得到平面上一個(gè)新的點(diǎn)集，其中，縱坐標(biāo)仍是以△為間隔的等間距點(diǎn)，而橫坐標(biāo)則是xi,yi

交錯(cuò)（因?yàn)槭钦?guī)量化器）。將相鄰區(qū)間邊界點(diǎn)對(duì)應(yīng)的平面上的點(diǎn)以線段相連，即可構(gòu)成一個(gè)分段直線的單調(diào)增曲線G(x),滿足第十八頁(yè)，共三十六頁(yè)，編輯于2023年，星期一適當(dāng)選取k值，可使得G(0)=0。這在實(shí)用中是常常需要的。從而構(gòu)造了所需的壓縮函數(shù)G。從上述結(jié)論也可由圖2-2-7來(lái)直觀說(shuō)明。

當(dāng)量化層數(shù)很大時(shí)，即△i=

xi-xi-1

很小時(shí)，我們近似可得：第十九頁(yè)，共三十六頁(yè)，編輯于2023年，星期一

此式意味著壓縮特性曲線的斜率決定了量化器的局部階距的取法。第二十頁(yè)，共三十六頁(yè)，編輯于2023年，星期一二.對(duì)數(shù)壓擴(kuò)

在眾多的壓擴(kuò)器中，用得最多是對(duì)數(shù)壓擴(kuò)器。采用此類(lèi)壓擴(kuò)器的原因是實(shí)際中，大多數(shù)信號(hào)都集中在較小的幅值附近，幅值大的機(jī)會(huì)相對(duì)小很多，因此，為保證平均的性噪比大，應(yīng)對(duì)小的信號(hào)取小的量化階距，而對(duì)大的信號(hào)取大的量化階距，即保持信號(hào)幅值與量化階距為一常數(shù)，而不是像均勻量化器中保持量化階距為常數(shù)。根據(jù)之前的式子，可知G’(x)應(yīng)與x的倒數(shù)成正比，也就是G(x)是對(duì)數(shù)型曲線。

不過(guò)，嚴(yán)格的對(duì)數(shù)曲線在實(shí)現(xiàn)上是有問(wèn)題的，表現(xiàn)為當(dāng)x→0時(shí)，G(x)→∞。為此，人們常常采用修正的對(duì)數(shù)壓擴(kuò)器，如在語(yǔ)音信號(hào)編碼中，常用的就有u律及A律曲線，分別定義為：

第二十一頁(yè)，共三十六頁(yè)，編輯于2023年，星期一其中V值是用于控制最大量化電平，而u及A值則是用來(lái)控制壓縮特性的陡峭程度，也就是最大量化階距與最小量化階距之比。對(duì)于大的u及A值，可以增加信號(hào)的動(dòng)態(tài)范圍，但另一方面也將減少大信號(hào)的量化性噪比。因此u及A值應(yīng)綜合考慮多種因素，實(shí)際中用的較多的是u=255及A=87.6。第二十二頁(yè)，共三十六頁(yè)，編輯于2023年，星期一三.分段線性壓擴(kuò)

從數(shù)學(xué)的角度看，連續(xù)可導(dǎo)的壓擴(kuò)特性固然便于分析，但在具體實(shí)現(xiàn)中，卻不易做到低成本高精度。因此，實(shí)際中，是采用分段線性壓擴(kuò)器來(lái)逼近連續(xù)可導(dǎo)的非線性壓擴(kuò)特性。分段線性壓擴(kuò)器是指量化器在量化范圍內(nèi)分為許多小段，每一小段相當(dāng)于一個(gè)均勻量化器，但不同小段之間量化的階距不同。

稍作修改，即可將均勻量化的平均失真結(jié)果用到分段均勻量化器中。設(shè)輸入的概率分布是均勻分布，記△i

表示第i段均勻量化的量化階距，共有M段，則容易推出分段均勻量化器的平均失真為

第二十三頁(yè)，共三十六頁(yè)，編輯于2023年，星期一其中qi

為信號(hào)位于第i段上的概率。四.漸進(jìn)量化特性

所謂漸進(jìn)量化特性，是指當(dāng)量化層數(shù)非常大時(shí)量化器的性能。非均勻量化器的平均失真為：其中，當(dāng)輸入無(wú)界時(shí)，x0=-∞，xN=+∞.從理論上說(shuō)，上式是一個(gè)精確的結(jié)果，然后它并不是很適合于數(shù)值計(jì)算，特別是當(dāng)N很大時(shí)。為了得到更加有效的計(jì)算公式，我們采用近似方法來(lái)計(jì)算式中的積分。當(dāng)N很大時(shí)，也就是△i=

xi-xi-1

很小，因此

第二十四頁(yè)，共三十六頁(yè)，編輯于2023年，星期一另一方面，我們有：所以從而得到平均失真的近似計(jì)算式為

第二十五頁(yè)，共三十六頁(yè)，編輯于2023年，星期一當(dāng)N很大時(shí)，每個(gè)最小量化區(qū)間Ri可近似認(rèn)為是一個(gè)均勻量化過(guò)程，由前面關(guān)于均勻量化器的性能分析，我們可得：

第二十六頁(yè)，共三十六頁(yè)，編輯于2023年，星期一2.2.6最佳量化所謂最佳量化，是指給定量化層數(shù)N時(shí)，使平均量化誤差達(dá)到最小的量化。在一般情況下，這個(gè)問(wèn)題并沒(méi)有顯式的理論解，但可以由數(shù)值解有效的實(shí)現(xiàn)。量化器的結(jié)構(gòu)可分為編碼器跟解碼器，在尋找最佳量化器時(shí)，我們常常將問(wèn)題簡(jiǎn)化，如假定其中一部分是固定的，而另一部分則是可變的。下面我們首先從兩個(gè)方面分析問(wèn)題，即在給定編碼器條件下尋找最佳解碼器，以及在給定解碼器條件下尋找最佳編碼器。然后分析一般情況下的最佳量化問(wèn)題。最佳的原則是使均方誤差最小。第二十七頁(yè)，共三十六頁(yè)，編輯于2023年，星期一一.給定解碼器時(shí)的最佳編碼器

這個(gè)問(wèn)題相當(dāng)于在給定解碼器時(shí)，尋找對(duì)量化輸入信號(hào)的最佳分段，所謂解碼器給定，即相當(dāng)于輸出電平集合C={y1,y2,...yN}已知。從直觀上看，對(duì)于輸入信號(hào)x，量化輸出滿足以下條件顯然最佳：換言之，應(yīng)該有事實(shí)上，此時(shí)的量化器的平均量化輸出也的確達(dá)到最小，因?yàn)榈诙隧?yè)，共三十六頁(yè)，編輯于2023年，星期一很顯然當(dāng)輸入xi位于yi-1

與yi之間時(shí)，應(yīng)選擇與x較近的y作為量化輸出。所以對(duì)輸入信號(hào)的分段邊界點(diǎn)應(yīng)位于yi-1與yi的中點(diǎn)，即xi=(yi-1+yi)/2二.給定編碼器時(shí)的最佳解碼器

給定編碼器

，即意味著輸入信號(hào)的分段邊界點(diǎn)已知。尋找最佳解碼器即求對(duì)位于分段Ri內(nèi)信號(hào)的量化輸出。

因?yàn)槠骄炕д鏋椋?/p>

第二十九頁(yè)，共三十六頁(yè)，編輯于2023年，星期一令即可得：此式意味著量化輸出應(yīng)為信號(hào)在Ri內(nèi)的重心位置處。第三十頁(yè)，共三十六頁(yè)，編輯于2023年，星期一三.一般情況下的最佳量化

所謂一般情況下，即僅知道量化層數(shù)N及輸入信號(hào)的概率分布函數(shù)fX(x)。量化分段邊界點(diǎn)及量化輸出均未知。

仍從量化器的平均量化出發(fā)，令得到

第三十一頁(yè)，共三十六頁(yè)，編輯于2023年，星期一令可得所以，此時(shí)的最佳量化條件是將我們前述分別討論的結(jié)果合在一起。不過(guò)，由于xi,yi均未知，所以對(duì)于簡(jiǎn)單的fX(x),由上面兩式不易得出顯式的xi,yi表達(dá)式。

對(duì)于有界的服從（a,b）間均勻分布的輸入信號(hào)，下式等價(jià)于第三十二頁(yè)，共三十六頁(yè)，編輯于2023年，星期一

由上式及式，我們可解得第三十三頁(yè)，共三十六頁(yè)，編輯于2023年，星期一對(duì)于更加一般的fX(x),我們只能采用數(shù)值解法尋找最佳量化分段及量化電平。在最佳量化器的數(shù)值設(shè)計(jì)方法中，最著名的