北郵-田寶玉-信息論基礎(chǔ)-第11-2章

廣播信道（BroadcastChannel,BC）與多址接入信道正好相反，它有一個輸入和多個輸出?！?1.2廣播信道圖11.10廣播信道單輸入雙輸出的廣播信道：圖11.11單輸入雙輸出廣播信道退化的廣播信道：存在一個條件概率函數(shù)使得由級聯(lián)信道的性質(zhì)可知，、、構(gòu)成一個馬氏鏈，或者說在已知的條件下與無關(guān)。11.2.1退化的廣播信道圖11.12退化的廣播信道定理11.2通過退化廣播信道發(fā)送獨立信息的容量區(qū)域是滿足下式的所有的封閉集合的凸包：

輔助隨機變量的基數(shù)的界限是用凸集理論的標準方法來確定的。11.2.2退化的廣播信道的容量區(qū)域例11.4二元對稱廣播信道。求該信道的容量區(qū)域。解：圖11.12二元對稱廣播信道構(gòu)造一個二元隨機源U，設(shè)為對稱分布，錯誤轉(zhuǎn)移概率為，得：由定理11.2得，速率區(qū)域為圖11.14二元對稱廣播信道的容量區(qū)域例11.5高斯廣播信道。假設(shè)信道輸入信號的平均功率為。求該信道的容量區(qū)域。解：高斯廣播信道也屬于退化的廣播信道引入輔助隨機輸入集合將輸入信號功率分成和，用于傳輸?shù)钠骄β蕿?，用于傳輸?shù)钠骄β蕿榧矗簣D11.15高斯廣播信道圖11.16退化高斯廣播信道從單用戶高斯信道的理論可知，要使退化高斯信道的輸入輸出的平均互信息為最大，輸入X應(yīng)為高斯分布；當輸入為高斯分布時因獨立，所以得容量區(qū)域為：圖11.17高斯廣播信道容量區(qū)域相關(guān)信源編碼進行編碼時，力求對信源相關(guān)帶來的剩余度的壓縮，提高網(wǎng)絡(luò)傳輸?shù)挠行浴！?1.3相關(guān)信源編碼圖11.19相關(guān)信源編碼的一般模型1.Berger相關(guān)信源編碼模型2.Slepian-Wolf相關(guān)信源編碼模型11.3.1典型的相關(guān)信源編碼模型圖11.20Berger相關(guān)信源編碼圖11.21Slepian-Wolf模型3.帶邊信息的相關(guān)信源編碼4.分集的相關(guān)信源編碼圖11.22帶邊信息的信源模型圖11.23分集的相關(guān)信源編碼模型由Slepian-Wolf相關(guān)信源編碼的模型，得定理11.3Slepian-Wolf相關(guān)信源編碼定理：對于相關(guān)信源編碼問題，可達速率的區(qū)域為：若滿足上面的條件即可在接收端無差錯地恢復(fù)和11.3.2Slepian-Wolf相關(guān)信源編碼定理例11.6

設(shè)信源

，信源

，其中

。，若

則有

，且

。由此得

比特。而

比特（設(shè)）因此，在已知

的情況下要確定

，只需要0.5比特，而不是1比特。因為與具有相關(guān)性，在已知

時，已提供了一些關(guān)于

的信息量，因此只需獲得大于

比特的信息量，就能完全確定

。由此可見在對相關(guān)信源

和

進行編碼時只要保證

就能完全確定

。例11.7有兩城市A和B，它們的天氣（晴，雨）的聯(lián)合概率如表所示：求理論上平均每天所需傳送的最小比特數(shù)：（1）兩城市獨立進行壓縮編碼傳送；（2）兩城市利用相關(guān)信源縮編碼傳送；（3）若國家氣象局已知A城市天氣的情況下，利用相關(guān)信源縮編碼傳送B城市天氣。ABB雨B晴A雨0．4450．055A晴0．0550．445解:（1）容易得兩城市的天氣分布情況均為雨和晴等概率出現(xiàn)。不考慮天氣在時間先后上的相關(guān)性，將A、B兩城市的天氣視為獨立等概信源，有獨立地對信源編碼傳送，即不考慮A、B兩城市之間天氣的關(guān)聯(lián)性。

這時實現(xiàn)無失真編碼傳輸，必須使編碼以后的信息傳輸速率滿足。因此獨立進行壓縮編碼傳送兩城市天氣情況最小需要比特數(shù)為2比特；

（2）利用相關(guān)信源編碼時，考慮在天氣方面兩城市之間的關(guān)聯(lián)性，可得聯(lián)合熵從而傳送每天兩城市的天氣情況最小需要

（3）在已知A城市天氣的情況下，利用相關(guān)信源編碼，只需要再傳條件熵比特就可以完全獲得B城市的天氣情況。例11.8U為含8個等概率符號的離散無記憶信源，符號集{0，1，…，7}，信源符號分別通過兩個信源編碼器:編碼器1將信源符號轉(zhuǎn)換成碼長為3的二進代碼

，再通過信道1傳輸，輸出為

，即信源編碼1:

編碼器2按編碼器1的方式將信源符號轉(zhuǎn)換成二進代碼后，將代碼分成4組：

再將每組的序號(符號集為：00，01，10，11）通過一個無噪聲信道傳輸，即信源編碼2：

信道1的作用是等概率地將輸入的每個長度為3的二元碼字變成與其漢明距離不大于1的另一個長度為3的二元碼字；接收端根據(jù)，對U作出判決。信源編碼1信源編碼2信道1譯碼器X1UX2Y1

圖11.26傳輸系統(tǒng)框圖1.分別求兩信源編碼器編碼后的信息傳輸速率

；2.求信道1的轉(zhuǎn)移概率矩陣和容量；

3.求4.設(shè)計譯碼器的譯碼原則，并指出譯碼器能否無差錯的將信源符號譯出？解：1.信源編碼器1得信息傳輸速率比特/碼符號信源編碼器2得信息傳輸速率比特/碼符號；2.信道1的轉(zhuǎn)移概率矩陣：信道1為對稱信道，輸出等概時達到信道容量：3.因為U到的變換是一一對應(yīng)的變換，所以U到的轉(zhuǎn)移概率矩陣與相同。因信道輸入等概率，因此輸出也等概，所以與信道1的容量相同，即的轉(zhuǎn)移概率矩陣為：

4.由2的結(jié)果可知，分別單獨利用

或

都不能無差錯譯碼。

而