信息論與編碼習(xí)題與答案第三章

PAGE53.1設(shè)二元對(duì)稱信道的傳遞矩陣為(1)若P(0)=3/4,P(1)=1/4，求H(X),H(X/Y),H(Y/X)和I(X;Y)；(2)求該信道的信道容量及其達(dá)到信道容量時(shí)的輸入概率分布；解：1)（2)其最佳輸入分布為3.3在有擾離散信道上傳輸符號(hào)0和1，在傳輸過(guò)程中每100個(gè)符號(hào)發(fā)生一個(gè)錯(cuò)誤，已知P(0)=P(1)=1/2，信源每秒內(nèi)發(fā)出1000個(gè)符號(hào)，求此信道的信道容量。解：由題意可知該二元信道的轉(zhuǎn)移概率矩陣為：為一個(gè)BSC信道所以由BSC信道的信道容量計(jì)算公式得到：3-6設(shè)有擾離散信道的傳輸情況分別如圖3－17所示。求出該信道的信道容量。解：信道轉(zhuǎn)移概率矩陣為P=該信道為離散對(duì)稱信道DMC3-7發(fā)送端有三種等概率符號(hào)，,接收端收到三種符號(hào)，信道轉(zhuǎn)移概率矩陣為(1)接收端收到一個(gè)符號(hào)后得到的信息量H(Y);(2)計(jì)算噪聲熵;(3)計(jì)算接收端收到一個(gè)符號(hào)的錯(cuò)誤概率；(4)計(jì)算從接收端看的平均錯(cuò)誤概率；(5)計(jì)算從發(fā)送端看的平均錯(cuò)誤概率；(6)從轉(zhuǎn)移矩陣中能看出該新到的好壞嗎？(7)計(jì)算發(fā)送端的H(X)和。解：(1)（2）聯(lián)合概率，后驗(yàn)概率H(Y/X)==bit/symbol（3）當(dāng)接收為，發(fā)為時(shí)正確，如果發(fā)的是則為錯(cuò)誤，各自的概率為：則錯(cuò)誤概率為：（4）從接收端看平均錯(cuò)誤概率為（5）從發(fā)送端看的平均錯(cuò)誤概率為：（6）能看出此信道不好。原因是信源等概率分布，從轉(zhuǎn)移信道來(lái)看正確發(fā)送的概率x1→y1的概率0.5有一半失真；x2→y2的概率0.3有嚴(yán)重失真；x3→y3的概率0完全失真。（7）bit/symbolH(X/Y)=SEQ圖表\*romanibit/symbol3-10一個(gè)平均功率受限制的連續(xù)信道，其通頻帶為1MHZ，信道上存在白色高斯噪聲。（1）已知信道上的信號(hào)與噪聲的平均功率比值為10，求該信道的信道容量；（2）信道上的信號(hào)與噪聲的平均功率比值降至5，要達(dá)到相同的信道容量，信道通頻帶應(yīng)為多大？（3）若信道通頻帶減小為0.5MHZ時(shí)，要保持相同的信道容量，信道上的信號(hào)與噪聲的平均功率比值應(yīng)等于多大？解：（1）（2）（3）3-12有一個(gè)二元對(duì)稱信道，其信道轉(zhuǎn)移概率如下圖所示，該信道以1500個(gè)二元符號(hào)/s的速度傳輸輸入符號(hào)?，F(xiàn)有一消息序列共有14000個(gè)二元符號(hào)，并設(shè)在這消息中p(0)=p(1)=1/2。問(wèn)從信息傳輸?shù)慕嵌葋?lái)考慮，10秒鐘內(nèi)能否將這消息序列無(wú)失真地傳送完？解：信道容量由于，每個(gè)二