信息論基礎(chǔ)理論及應(yīng)用

信息論形成的背景與基礎(chǔ)人們對于信息的認(rèn)識和利用，可以追溯到古代的通訊實(shí)踐可以說是傳遞信息的原始方式。隨著社會(huì)生產(chǎn)的發(fā)展，科學(xué)技術(shù)的進(jìn)步，人們對傳遞信息的要求急劇增加。到了20世紀(jì)20年代，如何提高傳遞信息的能力和可靠性已成為普遍重視的課題。美國科學(xué)家N.奈奎斯特、德國K.屈普夫米勒、前蘇聯(lián)A.H.科爾莫戈羅夫和英國R.A.賽希爾等人，從不同角度研究信息，為建立信息論做出了很大貢獻(xiàn)。信息論是在人們長期的通信工程實(shí)踐中，由通信技術(shù)和概率論、隨機(jī)過程和數(shù)理統(tǒng)計(jì)相結(jié)合而逐步發(fā)展起來的一門學(xué)科。信息論的奠基人是美國偉大的數(shù)學(xué)家、貝爾實(shí)驗(yàn)室杰出的科學(xué)家C.E.香農(nóng)（被稱為是“信息論之父”），他在1948年發(fā)表了著名的論文《通信的數(shù)學(xué)理論》，1949年發(fā)表《噪聲中的通信》，為信息論奠定了理論基礎(chǔ)。20世紀(jì)70年代以后，隨著數(shù)學(xué)計(jì)算機(jī)的廣泛應(yīng)用和社會(huì)信息化的迅速發(fā)展，信息論正逐漸突破香農(nóng)狹義信息論的范圍，發(fā)展為一門不僅研究語法信息，而且研究語義信息和語用信息的科學(xué)。近半個(gè)世紀(jì)以來，以通信理論為核心的經(jīng)典信息論，正以信息技術(shù)為物化手段，向高精尖方向迅猛發(fā)展，并以神奇般的力量把人類社會(huì)推入了信息時(shí)代。信息是關(guān)于事物的運(yùn)動(dòng)狀態(tài)和規(guī)律，而信息論的產(chǎn)生與發(fā)展過程，就是立足于這個(gè)基本性質(zhì)。隨著信息理論的迅猛發(fā)展和信息概念的不斷深化，信息論所涉及的內(nèi)容早已超越了狹義的通信工程范疇，進(jìn)入了信息科學(xué)領(lǐng)域。信息論定義及概述信息論是運(yùn)用概率論與數(shù)理統(tǒng)計(jì)的方法研究信息、信息熵、通信系統(tǒng)、數(shù)據(jù)傳輸、密碼學(xué)、數(shù)據(jù)壓縮等問題的應(yīng)用數(shù)學(xué)學(xué)科。核心問題是信息傳輸?shù)挠行院涂煽啃砸约皟烧唛g的關(guān)系。它主要是研究通訊和控制系統(tǒng)中普遍存在著信息傳遞的共同規(guī)律以及研究最佳解決信息的獲限、度量、變換、儲(chǔ)存和傳遞等問題的基礎(chǔ)理論?；谶@一理論產(chǎn)生了數(shù)據(jù)壓縮技術(shù)、糾錯(cuò)技術(shù)等各種應(yīng)用技術(shù)，這些技術(shù)提高了數(shù)據(jù)傳輸和存儲(chǔ)的效率。信息論將信息的傳遞作為一種統(tǒng)計(jì)現(xiàn)象來考慮，給出了估算通信信道容量的方法。信息傳輸和信息壓縮是信息論研究中的兩大領(lǐng)域。這兩個(gè)方面又由信息傳輸定理、信源—信道隔離定理相互聯(lián)系信息論作為一門科學(xué)理論，發(fā)端于通信工程。它的研究范圍極為廣闊，一般把信息論分成三種不同類型：狹義信息論。狹義信息論主要總結(jié)了Shannon的研究成果，因此又稱為Shannon信息論。在信息可以度量的基礎(chǔ)上，研究如何有效、可靠地傳遞信息。有效、可靠地傳遞信息必然貫穿于通信系統(tǒng)從信源到信宿的各個(gè)部分，狹義信息論研究的是收、發(fā)端聯(lián)合優(yōu)化的問題，而重點(diǎn)在各種編碼。它是通信中客觀存在的問題的理論提升。一般信息論。研究從廣義的通信引出的基礎(chǔ)理論問題：Shannon信息論；Wiener的微弱信號檢測理論。微弱信號檢測又稱最佳接收研究是為了確保信息傳輸?shù)目煽啃裕芯咳绾螐脑肼暫透蓴_中接收信道傳輸?shù)男盘柕睦碚?。主要研究兩個(gè)方面的問題：從噪聲中去判決有用信號是否出現(xiàn)和從噪聲中去測量有用信號的參數(shù)。該理論應(yīng)用近代數(shù)理統(tǒng)計(jì)的方法來研究最佳接收的問題，系統(tǒng)和定量地綜合出存在噪聲和干擾時(shí)的最佳接收機(jī)結(jié)構(gòu)。除此之外，一般信息論的研究還包括：噪聲理論、信號濾波與預(yù)測、統(tǒng)計(jì)檢測與估計(jì)理論、調(diào)制理論、信號處理與信號設(shè)計(jì)理論等?？梢娝偨Y(jié)了Shannon和Wiener以及其他學(xué)者的研究成果，是廣義通信中客觀存在的問題的理論提升。廣義信息論。無論是狹義信息論還是一般信息論，討論的都是客觀問題。然而從前面給出的例子可知，當(dāng)討論信息的作用、價(jià)值等問題時(shí)，必然涉及到主觀因素。廣義信息論研究包括所有與信息有關(guān)的領(lǐng)域，如：心理學(xué)，遺傳學(xué)，神經(jīng)生理學(xué)，語言學(xué)，社會(huì)學(xué)等。因此，有人對信息論的研究內(nèi)容進(jìn)行了重新界定，提出從應(yīng)用性、實(shí)效性、意義性或者從語法、語義、語用方面來研究信息，分別與事件出現(xiàn)的概率、含義及作用有關(guān)，其中意義性、語義、語用主要研究信息的意義和對信息的理解，即信息所涉及的主觀因素。廣義信息論從人們對信息特征的理解出發(fā)，從客觀和主觀兩個(gè)方面全面地研究信息的度量、獲取、傳輸、存儲(chǔ)、加工處理、利用以及功用等，理論上說是最全面的信息理論，但由于主觀因素過于復(fù)雜，很多問題本身及其解釋尚無定論，或者受到人類知識水平的限制目前還得不到合理的解釋，因此廣義信息論目前還處于正在發(fā)展的階段。信息量信息量也就是熵，是一個(gè)建立在隨機(jī)型性基礎(chǔ)上的概念。信息論中熵的概念與物理學(xué)中熱力學(xué)熵的概念有著緊密的聯(lián)系。玻耳茲曼與吉布斯在統(tǒng)計(jì)物理學(xué)中對熵做了很多的工作。信息論中的熵也正是受之啟發(fā)。信息量是隨機(jī)性大小的度量。信源X是隨機(jī)，可以認(rèn)為信源X發(fā)出符號1，2，3的概率都是1/3,即可以按公式I(a)=—logp(a)來計(jì)算。但是信源y是一個(gè)確定的信源，t=0時(shí)刻發(fā)1,t=1時(shí)刻發(fā)2,t=2時(shí)刻發(fā)3等等，這是有規(guī)律可循的，隨機(jī)性為0,即信源y是確定的，它的信源熵為0，不能提供任何信息，信息量為0。所以信源x的消息每一個(gè)消息符號所含的消息量大于信源y的每個(gè)消息符號所含的信息量(信源y的每個(gè)消息符號所含的信息量為0)。信息的度量是信息論研究的基本問題之一。美國數(shù)學(xué)家C.E.香農(nóng)在1948年提出信息熵作為信息量的測度。根據(jù)人們的實(shí)踐經(jīng)驗(yàn)，一個(gè)事件給予人們的信息量多少，與這一事件發(fā)生的概率(可能性)大小有關(guān)。一個(gè)小概率事件的發(fā)生，如“唐山發(fā)生七級以上大地震”使人們感到意外，它給人們的信息量就很多。因此，用I(A)=-log(A)〔P(A)表示事件A發(fā)生的概率)來度量事件A給出的信息量，稱為事件A的自信息量。若一次試驗(yàn)有M種可能結(jié)果(事件)，或一個(gè)信源可能產(chǎn)生M種消息(事件)，它們出現(xiàn)的概率分別為尸?己,,?/."，則用AfH=—〉-PjlogPiJ 來度量一次試驗(yàn)或一個(gè)消息所給出的平均信息量。當(dāng)對數(shù)取2為底時(shí)，單位為比特；當(dāng)對數(shù)取e為底時(shí)，單位為奈特。H的表達(dá)式與熵的表達(dá)式差一個(gè)負(fù)號，故稱負(fù)熵或信息熵。信息傳輸模型信息傳輸系統(tǒng)主要由信源、信道和信宿組成，下圖為信息傳輸系統(tǒng)的基本模型。信源是產(chǎn)生消息的系統(tǒng)。信宿是接受消息的系統(tǒng)，信

道則是傳輸消息的通道。圖中編碼器、譯碼器的作用是把消息變換成便于傳輸?shù)男问健Ｐ旁葱潘扌畔鬏旝胄托旁葱潘扌畔鬏旝胄托旁淳幋a信源是產(chǎn)生消息（包括消息序列）的源，是為了減少信源輸出符號序列中的剩余度、提高符號的平均信息量，對信源輸出的符號序列所施行的變換。具體說，就是針對信源輸出符號序列的統(tǒng)計(jì)特性來尋找某種方法，把信源輸出符號序列變換為最短的碼字序列，使后者的各碼元所載荷的平均信息量最大，同時(shí)又能保證無失真地恢復(fù)原來的符號序列。信源編碼的基本日的是提高碼字序列中碼元的平均信息量，一切旨在減少剩余度而對信源輸出符號序列所施行的變換或處理，都可以在這種意義下歸入信源編碼的范疇，例如過濾、預(yù)測、域變換和數(shù)據(jù)壓縮等。信源編碼器將消息變換為一個(gè)數(shù)字序列（通常為二進(jìn)制數(shù)字序列）。在離散情形，若信源產(chǎn)生M種可能消息，它們出現(xiàn)的概率分別為…心???，每個(gè)消息由N種信源符號組成,便可取信源編碼與數(shù)字序列一一對應(yīng)。第i種消息對應(yīng)的數(shù)字序列長（數(shù)字個(gè)數(shù)）為Li，Li相等的稱等長編碼，否則稱變長編碼。定義

]Af''為編碼速率，它表征平均每個(gè)信源符號要用多少個(gè)數(shù)字來表示。若取信源譯碼器為信源編碼器的逆變換器，則在無噪信道（信源編碼器的輸出即為信源譯碼器的輸入）情況下，消息可以正確無誤地傳送。這時(shí)信源編碼問題是要找出最小的速率R及其相應(yīng)的編碼。已經(jīng)證明，對于相當(dāng)廣泛的信源類,當(dāng)N可以任意大時(shí)這個(gè)最小極限速率5=百二目（-土切冉腿乙），稱為信源的熵率，是信源的一限速率5=百二目（-土切冉腿乙），稱為信源的熵率，是信源的一個(gè)重要參數(shù)。為了有效傳播信息，最理想狀態(tài)即為無失真?zhèn)鬏敗Ｔ跓o失真信源編碼中又分為定長編碼、變長編碼機(jī)最佳變長編碼。一、 定長編碼。在定長編碼中，K是定值，編碼的目的即為找到最小的K值。要實(shí)現(xiàn)無失真的信源編碼，不但要求信源符號與碼字是一一對應(yīng)的，而且還要求有碼字組成的碼符號序列的逆變換也是唯一的。由定長編碼定理可知，當(dāng)編碼器容許的輸出信息率，也就是當(dāng)每個(gè)信源符號必須輸出的碼長是K=KL/logM。由定理表明，只要碼字所能攜帶的信息量大于信源序列輸出的信息量，則可以使傳輸幾乎無失真，但是條件是L足夠大。這就為傳輸帶來了很大的麻煩，并且實(shí)現(xiàn)起來很困難，并且編碼效率也不高。而要達(dá)到編碼效率接近1的理想編碼器雖有存在性，但在實(shí)際上時(shí)不可能的，因?yàn)長非常大，無法實(shí)現(xiàn)。由此而產(chǎn)生了變長編碼。二、 變長編碼。在變長編碼中，碼長K是變化的，可根據(jù)信源各個(gè)符號的統(tǒng)計(jì)特性，對概率大的符號用短碼，而對概率小的符號用長碼。這樣大量信源符號編成碼后，平均每個(gè)信源符號所需的輸出符號數(shù)就可以降低，從而提高編碼效率。用變長編碼來達(dá)到相當(dāng)高的編碼效率，一般所要求的符號長度L可以比定長編碼小得多的多。很明顯，定長碼需要的信源序列長，這使得碼表很大，且總存在譯碼差錯(cuò)。而變長碼要求編碼效率達(dá)到96%時(shí)，只需L=2.因此用變長碼編碼時(shí)，L不需要很大就可達(dá)到相當(dāng)高的編碼效率，而且可實(shí)現(xiàn)無失真編碼。并且隨著信源序列長度的增加，編碼效率越來越接近于1，編碼后的信息傳輸率R也越來越接近于無噪無損二元對稱信道的信道容量C=1bit/二元碼符號，達(dá)到信源與信道匹配，使信道得到充分利用。幾種不同的變長編碼方式如下：1、香農(nóng)編碼方法。香農(nóng)第一定理指出了平均碼長與信源之間的關(guān)系，同時(shí)也指出了可疑通過編碼使平均碼長達(dá)到極限值，這是一個(gè)很重要的極限定理。香農(nóng)第一定理指出，選擇每個(gè)碼字的長度Ki滿足下式：I(xi)<Ki<I(xi)+1就可以得到這種碼。編碼方式如下：首先將信源消息符號按其出現(xiàn)的概率大笑依次從大到小排列，為了編成唯一可譯碼，計(jì)算第i種消息的累加概率P=Ep(a)，并將累加概率Pi變換成二進(jìn)制數(shù)。最后去Pi二進(jìn)制數(shù)的小數(shù)點(diǎn)后Ki位提取出，即為給細(xì)心符號的二進(jìn)制碼字。由此可見香農(nóng)編碼法多余度稍大，實(shí)用性不強(qiáng)，但他是依據(jù)編碼定理而來，因此具有重要的理論意義。2、費(fèi)諾編碼方法。費(fèi)諾編碼屬于概率編碼，但不是最佳的編碼方法。在編N進(jìn)制碼時(shí)首先將信源消息符號按其出現(xiàn)的概率依次由小到大排列開來，并將排列好的信源符號按概率值分N大組，使N組的概率之和近似相同，并對各組賦予一個(gè)N進(jìn)制碼元“0”、"1”……“N-1”。之后再針對每一大組內(nèi)的信源符號做如上的處理，即再分為概率和相同的N組，賦予N進(jìn)制碼元。如此重復(fù)，直至每組只剩下一個(gè)心愿符號為止。此時(shí)每個(gè)信源符號所對應(yīng)的碼字即為費(fèi)諾碼。針對同一信源，費(fèi)諾碼要比香農(nóng)碼的平均碼長小，消息傳輸速率大，編碼效率高。3、哈夫曼編碼方法。編碼方法：也是先將信源符號按其出現(xiàn)的概率大小依次排列，并取概率最小的字母分別配以0和1兩種碼元（先0后1或者先1后0，以后賦值順序固定），再將這兩個(gè)概率想家作為一個(gè)新字母的概率，與未分配的二進(jìn)制符號的字母重新排隊(duì)。并不斷重復(fù)這一過程，直到最后兩個(gè)符號配以0和1為止。最后從最后一級開始，向前返回得到各個(gè)信源符號所對應(yīng)的碼元序列，即為相應(yīng)的碼字。哈夫曼編碼方式得到的碼并非唯一的。在對信源縮減時(shí)，兩個(gè)概率最小的符號合并后的概率與其他信源符號的概率相同時(shí)，這兩者在縮減信源中的排序?qū)?huì)導(dǎo)致不同碼字，但不同的排序?qū)⒂绊懘a字的長度，一般講合并的概率放在上面，這樣可獲得較小的碼方差。哈夫曼碼的平均碼長最小，消息傳輸效率最大，編碼效率最高。信道編碼信道是傳輸信息的媒質(zhì)或通道，如架空明線、同軸電纜、射頻波束、光導(dǎo)纖維等。有時(shí)為研究方便將發(fā)送端和接收端的一部分如調(diào)制解調(diào)器也劃歸信道。信息論把信息傳送過程中受各種干擾的影響都?xì)w入信道中考慮。根據(jù)干擾的統(tǒng)計(jì)特性，信道有多種模型。最簡單的是離散無記憶恒參信道，它可以用信道入口符號集乂、出口符號集Y和一組條件概率P(y|x)(xEX,yEY)來描述。若信道輸入信號x=(x1,x2,…,xN),則相應(yīng)的輸出(受擾)信號y=(y1,y2,…,yN)出現(xiàn)的Np=(ylx)=TTP(yi\xi),N=1,2,■■■概率為 i-l 信道編碼器將數(shù)字序列每K個(gè)一組變換為字長N的信號(碼字)，稱為分組編碼。若數(shù)字和信道符號都是二進(jìn)制的(可用0,1表示)，則R=K/N定義為編碼速率，它表明每個(gè)信道符號表示多少個(gè)數(shù)字。N-K稱為編碼冗余度。信道編碼(糾錯(cuò)編碼)的基本思想就是增加冗余度以提高可靠性。更確切地說，信道譯碼器可以利用編碼冗余度將受擾信號變換為正確的發(fā)送數(shù)字序列。重復(fù)編碼乃一簡例。信道編碼器將輸入數(shù)字重復(fù)三次，如將01011變換為000111000111111。信道譯碼器可用門限譯碼，即先將輸入譯碼器的信道符號每三個(gè)一組地相加，再將結(jié)果逐個(gè)與閾值2比較，小于閾值2的譯為0,否則譯為1。這樣若受擾信號010110100011011雖然錯(cuò)了5個(gè)符號，但譯碼仍為01011與發(fā)送數(shù)字序列完全相同。信息論得出的重要結(jié)論是:對于一個(gè)有噪信道，只要在信道編碼中引入足夠而有限的冗余度，或等價(jià)地說編碼速率足夠小，就能通過信道漸近無誤地傳送消息。更確切地說，對充分長的數(shù)字序列，其接收錯(cuò)誤概率可以任意小。信道編碼問題是要找出使信道漸近無誤地傳輸消息所能達(dá)到的最大編碼速率R和相應(yīng)的編碼。已經(jīng)證

明，對于離散無記憶恒參信道，這個(gè)最大極限編碼速率為RzE注g）它是對X上一切概率分布p取極大值。p為信道轉(zhuǎn)移概率（條件概率），22Z凱痔R凱對1熙嗥I"山"八滲Mg 。稱為交互信息;移概率（條件概率），c稱為信道容量，是信道的重要參數(shù)。信道編碼大致分為兩類：①信道編碼定理，從理論上解決理想編碼器、譯碼器的存在性問題，也就是解決信道能傳送的最大信息率的可能性和超過這個(gè)最大值時(shí)的傳輸問題。②構(gòu)造性的編碼方法以及這些方法能達(dá)到的性能界限。編碼定理的證明，從離散信道發(fā)展到連續(xù)信道，從無記憶信道到有記憶信道，從單用戶信道到多用戶信道，從證明差錯(cuò)概率可接近于零到以指數(shù)規(guī)律逼近于零，正在不斷完善。編碼方法，在離散信道中一般用代數(shù)碼形式，其類型有較大發(fā)展，各種界限也不斷有人提出，但尚未達(dá)到編碼定理所啟示的限度，尤其是關(guān)于多用戶信道，更顯得不足。在連續(xù)信道中常采用正交函數(shù)系來代表消息，這在極限情況下可達(dá)到編碼定理的限度。不是所有信道的編碼定理都已被證明。只有無記憶單用戶信道和多用戶信道中的特殊情況的編碼定理已有嚴(yán)格的證明；其他信道也有一些結(jié)果，但尚不完善。提高數(shù)據(jù)傳輸效率，降低誤碼率是信道編碼的任務(wù)。信道編碼的本質(zhì)是增加通信的可靠性。但信道編碼會(huì)使有用的信息數(shù)據(jù)傳輸減少，信道編碼的過程是在原數(shù)據(jù)碼流中加插一些碼元，從而達(dá)到在接收端進(jìn)行判錯(cuò)和糾錯(cuò)的日的，這就是我們常常說的開銷。這就好像我們運(yùn)送一批玻璃杯一樣，為了保證運(yùn)送途中不出現(xiàn)打爛玻璃杯的情況，我們通常都用一些泡沫或海綿等物將玻璃杯包裝起來，這種包裝使玻璃杯所占的容積變大，原來一部車能裝5000個(gè)玻璃杯的，包裝后就只能裝4000個(gè)了，顯然包裝的代價(jià)使運(yùn)送玻璃杯的有效個(gè)數(shù)減少了。同樣，在帶寬固定的信道中，總的傳送碼率也是固定的，由于信道編碼增加了數(shù)據(jù)量，其結(jié)果只能是以降低傳送有用信息碼率為代價(jià)了。將有用比特?cái)?shù)除以總比特?cái)?shù)就等于編碼效率了，不同的編碼方式，其編碼效率有所不同。數(shù)字電視中常用的糾錯(cuò)編碼，通常采用兩次附加糾錯(cuò)碼的前向糾錯(cuò)（FEC）編碼。RS編碼屬于第一個(gè)FEC，188字節(jié)后附加16字節(jié)RS碼，構(gòu)成（204，188）RS碼，這也可以稱為外編碼。第二個(gè)附加糾錯(cuò)碼的FEC一般采用卷積編碼，又稱為內(nèi)編碼。外編碼和內(nèi)編碼結(jié)合一起，稱之為級聯(lián)編碼。級聯(lián)編碼后得到的數(shù)據(jù)流再按規(guī)定的調(diào)制方式對載頻進(jìn)行調(diào)制。前向糾錯(cuò)碼（FEC）的碼字是具有一定糾錯(cuò)能力的碼型，它在接收端解碼后，不僅可以發(fā)現(xiàn)錯(cuò)誤，而且能夠判斷錯(cuò)誤碼元所在的位置，并自動(dòng)糾錯(cuò)。這種糾錯(cuò)碼信息不需要儲(chǔ)存，不需要反饋，實(shí)時(shí)性好。所以在廣播系統(tǒng)（單向傳輸系統(tǒng)）都采用這種信道編碼方式。下面是糾錯(cuò)碼的各種類型：1、RS編碼RS編碼即里德-所羅門碼，它是能夠糾正多個(gè)錯(cuò)誤的糾錯(cuò)碼，RS碼為（204，188,t=8），其中t是可抗長度字節(jié)數(shù)，對應(yīng)的188符號，監(jiān)督段為16字節(jié)（開銷字節(jié)段）。實(shí)際中實(shí)施（255，239，t=8）的RS編碼，即在204字節(jié)（包括同步字節(jié)）前添加51個(gè)全0字節(jié)，產(chǎn)生RS碼后丟棄前面51個(gè)空字節(jié)，形成截短的（204，188）RS碼。RS的編碼效率是：188/204。2、 卷積碼卷積碼非常適用于糾正隨機(jī)錯(cuò)誤，但是，解碼算法本身的特性卻是：如果在解碼過程中發(fā)生錯(cuò)誤，解碼器可能會(huì)導(dǎo)致突發(fā)性錯(cuò)誤。為此在卷積碼的上部采用RS碼塊，RS碼適用于檢測和校正那些由解碼器產(chǎn)生的突發(fā)性錯(cuò)誤。所以卷積碼和RS碼結(jié)合在一起可以起到相互補(bǔ)償?shù)淖饔?。卷積碼分為兩種：（1） 基本卷積碼：基本卷積碼編碼效率為，n=1/2,編碼效率較低，優(yōu)點(diǎn)是糾錯(cuò)能力強(qiáng)。（2） 收縮卷積碼：如果傳輸信道質(zhì)量較好，為提高編碼效率，可以采樣收縮截短卷積碼。有編碼效率為：n=1/2、2/3、3/4、5/6、7/8這幾種編碼效率的收縮卷積碼。編碼效率高，一定帶寬內(nèi)可傳輸?shù)挠行П忍芈试龃?，但糾錯(cuò)能力越減弱。3、 Turbo碼1993年誕生的Turbo碼，單片Turbo碼的編碼/解碼器，運(yùn)行速率達(dá)40Mb/s。該芯片集成了一個(gè)32X32交織器，其性能和傳統(tǒng)的RS碼和卷積內(nèi)碼的級聯(lián)一樣好。所以Turbo碼是一種先進(jìn)的信道編碼技術(shù)，由于其不需要進(jìn)行兩次編碼，所以其編碼效率比傳統(tǒng)的RS+卷積碼要好。4、交織在實(shí)際應(yīng)用中，比特差錯(cuò)經(jīng)常成串發(fā)生，這是由于持續(xù)時(shí)間較長的衰落點(diǎn)會(huì)影響到幾個(gè)連續(xù)的比特，而信道編碼僅在檢測和校正單個(gè)差錯(cuò)和不太長的差錯(cuò)串時(shí)才最有效(如 RS只能糾正8個(gè)字節(jié)的錯(cuò)誤)。為了糾正這些成串發(fā)生的比特差錯(cuò)及一些突發(fā)錯(cuò)誤，可以運(yùn)用交織技術(shù)來分散這些誤差，使長串的比特差錯(cuò)變成短串差錯(cuò)，從而可以用前向碼對其糾錯(cuò)，例如：在DVB-C系統(tǒng)中，RS(204,188)的糾錯(cuò)能力是8個(gè)字節(jié)，交織深度為12，那么糾可抗長度為8X12=96個(gè)字節(jié)的突發(fā)錯(cuò)誤。實(shí)現(xiàn)交織和解交織一般使用卷積方式。交織技術(shù)對已編碼的信號按一定規(guī)則重新排列，解交織后突發(fā)性錯(cuò)誤在時(shí)間上被分散，使其類似于獨(dú)立發(fā)生的隨機(jī)錯(cuò)誤，從而前向糾錯(cuò)編碼可以有效的進(jìn)行糾錯(cuò)，前向糾錯(cuò)碼加交織的作用可以理解為擴(kuò)展了前向糾錯(cuò)的可抗長度字節(jié)。糾錯(cuò)能力強(qiáng)的編碼一般要求的交織深度相對較低。糾錯(cuò)能力弱的則要求更深的交織深度。般來說，對數(shù)據(jù)進(jìn)行傳輸時(shí)，在發(fā)端先對數(shù)據(jù)進(jìn)行 FEC編碼，然后再進(jìn)行交織處理。收端次序和發(fā)端相反，先做去交織處理完成誤差分散，再FEC解碼實(shí)現(xiàn)數(shù)據(jù)糾錯(cuò)。另外，從上圖可看出，交織不會(huì)增加信道的數(shù)據(jù)碼元。根據(jù)信道的情況不同，信道編碼方案也有所不同，在 DVB-T里由于是無線信道且存在多徑干擾和其它的干擾，所以信道很“臟”，為此它的信道編碼是：RS+外交積+卷積碼+內(nèi)交積。采用了兩次交織處理的級聯(lián)編碼，增強(qiáng)其糾錯(cuò)的能力。RS作為外編碼，其編碼效率是188/204(又稱外碼率)，卷積碼作為內(nèi)編碼，其編碼效率有1/2、2/3、3/4、5/6、7/8，信道的總編碼效率是兩種編碼效率的級聯(lián)疊加。設(shè)信道帶寬8MHZ，符號率為6.8966Ms/S，內(nèi)碼率選2/3，16QAM調(diào)制，其總傳輸率是27.586Mbps,有效傳輸率是27.586*(188/204)*(2/3)=16.948Mbps,如果加上保護(hù)間隔的插入所造成的開銷，有效碼率將更低。在DVB-C里，由于是有線信道，信道比較“干凈”，所以它的信道編碼是：RS+交積。一般DVB-C的信道物理帶寬是8MHZ，在符號率為6.8966Ms/s，調(diào)制方式為64QAM的系統(tǒng)，其總傳輸率是41.379Mbps,由于其編碼效率為188/204，所以其有效傳輸率是41.379*188/204=38.134Mbps。在DVB-S里，由于它是無線信道，所以它的信道編碼是：RS+交積+卷積碼。也是級聯(lián)編碼。5、偽隨機(jī)序列擾碼進(jìn)行基帶信號傳輸?shù)娜秉c(diǎn)是其頻譜會(huì)因數(shù)據(jù)出現(xiàn)連“1”和連“0”而包含大的低頻成分，不適應(yīng)信道的傳輸特性，也不利于從中提取出時(shí)鐘信息。解決辦法之一是采用擾碼技術(shù)，使信號受到隨機(jī)化處理，變?yōu)閭坞S機(jī)序列，又稱為“數(shù)據(jù)隨機(jī)化”和“能量擴(kuò)散”處理。擾碼不但能改善位定時(shí)的恢復(fù)質(zhì)量，還可以使信號頻譜平滑，幀同步和自適應(yīng)同步和自適應(yīng)時(shí)域均衡等系統(tǒng)的性能得到改善。擾碼雖然“擾亂”了原有數(shù)據(jù)的本來規(guī)律，但因?yàn)槭侨藶榈摹皵_亂”，