信道分類與表示方法和計算

1、信道分類與表示方法和計算12主要內(nèi)容信道分類與表示方法信道容量的計算3第3章信道與信道容量信道分類和表示參數(shù)離散單個符號信道及其容量4信道分類和表示參數(shù)信道分類 用戶數(shù)量：單用戶、多用戶 輸入端和輸出端關(guān)系：無反饋、有反饋 信道參數(shù)與時間的關(guān)系：固參、時變參 噪聲種類： 隨機差錯、突發(fā)差錯 輸入輸出特點：離散、連續(xù)、半離散半連續(xù)、波形信道5信道分類和表示參數(shù)信道參數(shù)6信道分類和表示參數(shù)信道種類1、無干擾（無噪聲）信道2、有干擾無記憶信道信道的輸出信號Y與輸入信號X之間又確定的關(guān)系。信道的輸出信號Y與輸入信號X之間沒有確定關(guān)系7信道分類和表示參數(shù)1）二進制對稱信道（BSC）由于這種信道的輸出比特

2、僅與對應(yīng)時刻的一個輸入比特有關(guān)，而與以前的輸入無關(guān)，所以這種信道是無記憶的8信道分類和表示參數(shù)2)離散無記憶信道9信道分類和表示參數(shù)設(shè)計和分析離散信道編碼、解碼器的性能 DMC信道模型分析性能的理論極限，則多用離散輸入、連續(xù)輸出10離散單個符號信道及其容量信息傳輸率信道在單位時間內(nèi)平均傳輸?shù)男畔⒘慷x為信息傳輸速率R=I(X;Y)=H(X)H(X/Y) 比特/符號Rt=I(X;Y)/t 比特/秒11離散單個符號信道及其容量信道容量比特/符號（bits/symbol或bits/channel use） 對于某特定信道，若轉(zhuǎn)移概率已經(jīng)確定，則互信息就是關(guān)于輸入符號分布函數(shù)型凸函數(shù)如果已知符號傳送周

3、期是T秒，也可以“秒”為單位來計算信道容量，此時Bit/s、nat/s注：對于特定的信道，信道容量是個定值，但在傳輸信息時信道能否提供最大傳輸能力，則取決于輸入端的概率分布。12離散單個符號信道及其容量無干擾離散信道的信道容量X、Y一一對應(yīng)CmaxI(X;Y)log n多個輸入變成一個輸出CmaxI(X;Y)maxH(Y)一個輸入對應(yīng)多個輸出CmaxI(X;Y)maxH(X)13離散單個符號信道及其容量對稱DMC信道定義輸入對稱如果轉(zhuǎn)移概率矩陣P的每一行都是第一行的置換(包含同樣元素)，稱該矩陣是輸入對稱輸出對稱如果轉(zhuǎn)移概率矩陣P的每一列都是第一列的置換(包含同樣元素)，稱該矩陣是輸出對稱對稱

4、的DMC信道如果輸入、輸出都對稱14離散單個符號信道及其容量對稱DMC信道例子15離散單個符號信道及其容量輸入對稱輸出對稱16離散單個符號信道及其容量對稱信道容量17離散單個符號信道及其容量Eg. 求信道容量18第六講復(fù)習(xí)離散單個符號的信道及其容量信道的描述對稱DMC信道及其信道容量的計算本節(jié)內(nèi)容準(zhǔn)對稱DMC信道一般DMC信道離散序列信道及其容量19離散單個符號信道及其容量Eg. 求信道容量信道輸入符號和輸出符號的個數(shù)相同，都為n，且正確的傳輸概率為1，錯誤概率被對稱地均分給n-1個輸出符號，此信道稱為強對稱信道或均勻信道，是對稱離散信道的一個特例20離散單個符號信道及其容量二進制對稱信道容量

5、C1H（）21離散單個符號信道及其容量串聯(lián)信道C(1,2)=maxI(X;Z)，C(1,2,3)=maxI(X;W)22離散單個符號信道及其容量Eg.設(shè)有兩個離散BSC信道串接，兩個BSC信道的轉(zhuǎn)移矩陣如下，求信道容量23離散單個符號信道及其容量信道容量I(X;Y)=1-H()，I(X;Z)=1-H2 (1-)24離散單個符號信道及其容量準(zhǔn)對稱DMC信道如果轉(zhuǎn)移概率矩陣P是輸入對稱而輸出不對稱，即轉(zhuǎn)移概率矩陣P的每一行都包含同樣的元素而各列的元素可以不同，則稱該信道是準(zhǔn)對稱DMC信道25離散單個符號信道及其容量準(zhǔn)對稱DMC信道容量對于準(zhǔn)對稱DMC信道，當(dāng)輸入分布為等概分布時，互信息達到最大值，

6、即為信道容量26離散單個符號信道及其容量Eg. 求信道容量方法一：信道的輸入符號有兩個，可設(shè)p(a1)，p(a2)1信道的輸出符號有三個，用b1、b2、b3表示27離散單個符號信道及其容量當(dāng)p(a1)p(a2)1/2時，p(b1)p(b2)(1-0.2)/2/符號方法二將轉(zhuǎn)移概率矩陣劃分成若干個互不相交的對稱的子集n為輸入符號集個數(shù)；p1，p2，ps是轉(zhuǎn)移概率矩陣P中一行的元素，即H(p1，p2，ps)H(Y/ai)；Nk是第k個子矩陣中行元素之和，Mk是第k個子矩陣中列元素之和，r是互不相交的子集個數(shù)28離散單個符號信道及其容量方法二29離散單個符號信道及其容量Eg. 求信道容量30離散單個

7、符號信道及其容量一般DMC信道1972年由和分別獨立提出的一種算法，現(xiàn)在稱為Blahut-Arimoto算法I(ai;Y) = C 對于所有滿足p(ai ) 0條件的II(ai;Y) C 對于所有滿足p(ai ) = 0條件的I當(dāng)信道平均互信息達到信道容量時，輸入符號概率集p(ai)中每一個符號ai對輸出端Y提供相同的互信息，只是概率為零的符號除外31離散序列信道及其容量 離散序列信道 信道 p(Y/X) Y X X=(X1X2XL) Xla1,a2,an Y=(Y1Y2YL)Yl b1,b2,bm32離散序列信道及其容量 離散無記憶序列信道 11111進一步信道是平穩(wěn)的 33離散序列信道及其

8、容量 離散無記憶序列信道 11111如果信道無記憶 如果輸入矢量X中的各個分量相互獨立 當(dāng)信道平穩(wěn)時CL=LC1，一般情況下，I(X;Y) LC134離散序列信道及其容量 11111BSC的二次擴展信道 X00,01,10,11，Y00,01,10,11，二次擴展無記憶信道的序列轉(zhuǎn)移概率p(00/00)=p(0/0)p(0/0)=(1-p)2，p(01/00)=p(0/0)p(1/0)=p(1-p)，p(10/00)=p(1/0)p(0/0)=p(1-p)，p(11/00)=p(1/0)p(1/0)=p20010110100011011擴展信道如果對離散單符號信道進行L次擴展，就形成了L次離散

9、無記憶序列信道 35離散序列信道及其容量 擴展信道1111若p，則C22比特/序列 36離散序列信道及其容量 獨立并聯(lián)信道序列的轉(zhuǎn)移概率p(Y1Y2YL/X1X2XL)=p(Y1/X1)p(Y2/X2)p(YL/XL) 1111X1 p(Y1/X1) Y1X2 p(Y2/X2) Y2 XL p(YL/XL) YL373.4連續(xù)信道及其容量 連續(xù)單符號加性信道 x (xR) p(y/x) y (yR)連續(xù)單符號信道 npn(n)N(0, 2) 平均互信息為I(X;Y)HC(X)HC(X/Y)HC(Y)HC(Y/X)HC(X)HC(Y)HC(XY) 信道容量噪聲是均值為零、方差為2的加性高斯噪聲

10、383.4連續(xù)信道及其容量 連續(xù)單符號加性信道 pY(y)N(0,P)，pn(n)N(0, 2)，y=x+n，所以pX(x)N(0,S) C1/2 log(1+SNR) 信道輸入X是均值為零、方差為S的高斯分布隨機變量時，信息傳輸率達到最大值 若是加性的，可以求出信道容量的上下界 393.4連續(xù)信道及其容量 多維無記憶加性連續(xù)信道 信道輸入隨機序列XX1X2XL，輸出隨機序列YY1Y2YL，加性信道有y=x+n，其中n=n1n2nL 是均值為零的高斯噪聲 403.4連續(xù)信道及其容量 連續(xù)單符多維無記憶高斯加性信道就可等價成L個獨立的并聯(lián)高斯加性信道號加性信道 比特/L維自由度 因此當(dāng)且僅當(dāng)輸入

11、隨機矢量X中各分量統(tǒng)計獨立，且是均值為零、方差為Pl的高斯變量時，才能達到此信道容量 413.4連續(xù)信道及其容量 討論均值為零、方差相同 均值為零、方差不同，總平均功率受限 423.4連續(xù)信道及其容量 討論各個時刻的信道輸出功率相等設(shè)為常數(shù) 433.4連續(xù)信道及其容量 eg有一并聯(lián)高斯加性信道，各子信道噪聲方差為 ， ， ， ， ， ， ， ， ， 443.4連續(xù)信道及其容量 限時限頻限功率加性高斯白噪聲信道 波形信道的平均互信息為 信道容量為 453.4連續(xù)信道及其容量 限時限頻限功率加性高斯白噪聲信道 限頻(W)高斯白噪聲過程可分解L2WtB維統(tǒng)計獨立的隨機序列 其中：463.4連續(xù)信道及其容量 限時限頻限功率加性高斯白噪聲信道 信道的容量 單位時間的信道容量 香農(nóng)公式 473.4連續(xù)信道及其容量 討論帶寬W一定時，信噪比SNR與信道容量Ct成對數(shù)關(guān)系 Ct SNR信道容量與信噪比的關(guān)系483.4連續(xù)信道及其容量 討論當(dāng)輸入信號功率P