信號與系統(tǒng)習題

1、1,某系統(tǒng)(7, 4)碼c 二(c6 c5 與信息位的關(guān)系為:c4c3c2c1co)二(m3m2mim0c2c1c0)其三位校驗位二 m)3二 m3m1m2m0m1c o=rni2mim0(1)求對應(yīng)的生成矩陣和校驗矩陣；(2)計算該碼的最小距離；(3)列出可糾差錯圖案和對應(yīng)的伴隨式;(4)若接收碼字r=1110011,求發(fā)碼。解：(1) g =011(2)dmin=3(3)-11：se00000000000010000001010000001010000001001010001000111001000001101000001101000000(4).rht=001接收出錯e=0000001r

2、+e=c = 1110010 (發(fā)碼)x0101/31/3101/32.已知(x,y )的聯(lián)合概率p(x, y戶：求 h (x ), h (y ), h (x,y b i (x;y )解：p(x=0)=2/3 p(x=1)=1/3p(y=0)=1/3 p(y=1)=2/3h x =h y =h(1/3,2/3) =0.918 bit/symbolh x,y =h(1/3,1/3,1/3)=1.585 bit/symboli x;丫 尸h(x) h(y)h(x,y) =0.251 bit/symbol3 .一階齊次馬爾可夫信源消息集x w a1，a2 ,a3,狀態(tài)集s w s1, s2, s3,

3、且令si =ai,i =1,2,3 ,條件轉(zhuǎn)移概率為1 4 14 12p(aj/s)l卜3 13 1；j畫出該馬氏鏈的狀態(tài)轉(zhuǎn)移圖；2/3 130(2)計算信源的極限:4w1 +iw2 +iw3 = w1j1w1 +iw2 +3w3 = w2御1 =0.4(2)|1w1 +iw2 = w32=0.3w3 = 0.3w1w2w3 u 1h(x|s1)=h(1/4,1/4,1/2)=1.5 比特/符號 h(x|s2)=h(1/3,1/3,1/3)=1.585 比特/符號h(x|s3)=h(2/3,1/3)= 0.918 比特/符號比特/符號3h一- %，w.h x|s 尸0.4 1.5 0.3 1.

4、585 0.3 0.918:1.351i =1 i i4 .若有一信源|=|1x2 ,每秒鐘發(fā)出2.55個信源符號。p_ 10.8 0.2-將此信源的輸出符號送入某一個二元信道中進行傳輸(假設(shè)信道是無噪無損的，容量為1bit/二元符號)，而信道每秒鐘只傳遞2個二元符號。(1) 試問信源不通過編碼(即 xt0,x11在信道中傳輸)(2) 能否直接與信道連接？(3) 若通過適當編碼能否在此信道中進行無失真?zhèn)鬏敚?4) 試構(gòu)造一種口夫曼編碼(兩個符號一起編碼),(5) 使該信源可以在此信道中無失真?zhèn)鬏?。解?1)不能，此時信源符號通過0, 1在信道中傳輸，2.55二元符號/s2二元符號/s(2)從信

5、息率進行比較，2.55* h (0.8,0.2) = 1.84 1*2可以進行無失真?zhèn)鬏?011100101x1x1x1x2x2x1x2x2(3) k = piki =0.64+0.16*2 +0.2*3 =1.56 二元符號/2 個信源符號 i 40.64 0.64 - 0.641110.16-0q - 0.30.160*0.1610.041此時 1.56/2*2.55=1.989 二元符號 /s 2 二元符號 /s5.兩個bsc信道的級聯(lián)如右圖所示：(1)寫出信道轉(zhuǎn)移矩陣；(2)求這個信道的信道容量。解：(1)1p = pp2 = i1名_ (1 - ；)2. 一! 2名(1-曾2 ；(1

6、- ；)(1-&)2 + s2(2)c = log2 -h(1-s)2 +e2)6.設(shè)隨機變量x =心2=0,1和丫力1,丫2=0,1的聯(lián)合概率空間為xy j _pxy, ii 1/81,y1) (x1, y2) (x2,y)3/83/8區(qū)佻)1/8定義一個新的隨機變量 z = xm丫(普通乘積)(1) 計算婿 h (x), h (y), h (z), h (xz), h (yz),以及 h (xyz);(2) 計算條件婿 h (x|y), h (y|x) , h (x|z), h (z|x) , h (y|z), h (z|y), h (x|yz ), h (y|xz )以及 h (z|xy

7、 );(3) 計算平均互信息量 i (x; y), i (x: z), i (y: z) , i (x; y|z), i (y; z|x )以及 i (x:，z|y)o解：(1)xy0101/83/81/213/81/81/21/21/2h(x) =1/2log22 1/2log22 =1h(y) =1/2log22 1/2log2 2 =1xyz 0000010100111001011101111/803/803/8001/8z 017/8 1/8h(z) =7/8log2(8/7) 1/8*8xz000110111/203/81/8h(xz) =1/2log22 3/8log2(8/3)

8、1/8log28yz000110111/203/81/8h(yz) =1/2log2 2 3/8log2(8/3) 1/8logz8(2)h(x |y) =1/2(1/4log2 4 3/4log2(4/3) 1/2(1/4log24 3/4log2(4/3)h(y|x) =1/2(1/4log24 3/4log2(4/3) 1/2(1/4log24 3/4log2(4/3)xz0101/201/213/81/81/27/81/8h(x |z) =7/8(4/7log2(7/4) 3/7log2(7/3) 1/8(0log2 0 110g21)h(z|x)=1/2(11og21010g20)

9、1/2(3/41og2(4/3) 1/41og2 4)yz0101/201/213/81/81/27/81/8h(y|z) = 7/8(4/7log2(7/4) 3/7log2(7/3) 1/8(0log20 110g21)h(z |y) =1/2(11og21 01og20) 1/2(3/41og2(4/3) 1/41og24)h(x |yz) =1/2(1/41og24 3/41og2(4/3) 3/8(11og21 010g2 0) 1/8(11og21 010g20)h(y|xz) =1/2(1/41og2 4 3/41og2(4/3) 3/8(11og2 1010g 2 0) 1/8

10、(11og2 1010g2 0)h(z | xy) =0i(x;y) =h(x) -h(x |y)i(x;z) =h(x) -h (x |z)i(y；z) =h(y) -h(y |z)i(x;y | z) = h(x |z) -h(x |yz)i(x;z | y) = h(x |y) -h(x |zy)12/3 1/37.設(shè)二元對稱信道的輸入概率分布分別為px 3/4 1/4 ,轉(zhuǎn)移矩陣為py|x j =y|x 1/3 2/3(1)求信道的輸入輸出！w,平均互信息量;(2 )求信道容量和最佳輸入分布；(3 )求信道剩余度。解：(1)信道的輸入嫡 h(x) =3/41og2(4/3)+ 1/41

11、og24；pxy=1/2 1/41/12 1/6py=7/12 5/12h(y) =7/121og2(12/7) 5/121og2(12/5)h(y | x) =3/4h(1/2,1/4) 1/4h (1/12,1/6)i(x;y) = h(y) h (y |x)(2)最佳輸入分布為px = 1/2 1/2,此時信道的容量為c =1 h (2/3,1/3)(3)信道的剩余度：c -i(x;y)8. px】=0.5 0.25 0.25，試確定最佳譯碼規(guī)則和極大似然譯碼規(guī)則，并計算出相應(yīng)的平均差錯率。1/41/61/12解：pxy=1/241/81/121/121/241/8f(b1)=a1最佳譯

12、碼規(guī)則：f (b2 ) = a1 ,平均差錯率為 1-1/4-1/6-1/8=11/24 ;f (b3 ) = a3f(bj =4極大似然規(guī)則：f (b2 ) = a2 ,平均差錯率為1-1/4-1/8-1/8=1/2 of (b3 ) = a39.設(shè)有一批電阻,按阻值分70%是2kq, 30%是5kq;按功耗分 64%是1/8w, 36%是1/4w。現(xiàn)已知2kq電阻中80%是1/8w,假如得知5k q電阻的功耗為1/4w,問獲得多少信息量。解：根據(jù)題意有r1 =2kr10.7r2=5kw1=1/8, w = j0.3| 0.64w2 =1/40.36,p(w1/r1) =0.8由 p(w1)

13、 = p(r1) p(w1/r1) p(r2)p(w1/r2) = p(w1/r2) =4/15所以 p(w2/r2) =1 p(w1/r2) =11/15得知5kq電阻的功耗為1/4w,獲得的自信息量為 b(p(w2/r2) =0.448bit71a2a3a4a5a6111111-24816323210.已知6符號離散信源的出現(xiàn)概率為,試計算它的：w、huffman編碼和費諾編碼的碼字、平均碼長及編碼效率。111111解：該離散信源的煙為 h(x)- pilb(pi ) lb2 lb4 lb8 lb16 lb32 lb32248163232i =13232=1.933 bit/符號11.在圖

14、片傳輸中，每幀約有2 106個像素，為了能很好地重現(xiàn)圖像，每像素能分256個亮度電平，并假設(shè)亮度電平等概分布。試計算每分鐘傳送兩幀圖片所需信道的帶寬(信噪功率比為30db)。解:每個像素點對應(yīng)的:w h =log 2 n =log 2 256 =8 bit/點2 幀圖片的信息量 i =2* n * h =2* 2*106* 8 =3.2* 107b讓單位時間需要的信道容量ct =lt3.2 10 =5.3*105bit /s60由香農(nóng)信道容量公式ct =wlog2(1 snr) w =ct5.3*105log2(1 snr) log 2 (1 1000):5.35* 104 hz12.求右圖所

15、示的信道的容量及達到信道容量時的輸入分布。解:由右圖可知，該信道的轉(zhuǎn)移概率矩陣為 p =-11/20 1 1/2一 a a2可以看到，當該信道的輸入分布取p(x) = i 1/2 0a31/2p(y)=；“ b21|1/2 1/22此時 i(x =a1;y)p(bj / a1) logj 1p(bj /a1)=lb2,同理可得p(bj)i(x =a3;y) =lb2而i (x =a2;y) =0 ,此分布滿足*0時率失真函數(shù)的口聞和口曲?9 .簡述離散信源和連續(xù)信源的最大燧定理。10 .解釋等長信源編碼定理和無失真變長信源編碼定理，說明對于等長碼和變長碼，最佳碼的每符號 平均碼長最小為多少？編

16、碼效率最高可達多少？11 .解釋最小錯誤概率譯碼準則，最大似然譯碼準則和最小距離譯碼準則，說明三者的關(guān)系。12 .設(shè)某二元碼字 c=111000, 001011, 010110, 101110,假設(shè)碼字等概率分布，計算此碼的編碼效率？采用最小距離譯碼準則，當接收序列為110110時，應(yīng)譯成什么碼字？13 .-平穩(wěn)二元信源，它在任意時間，不論以前發(fā)出過什么符號，都按/尸=0一6發(fā) 出符號，求%x7)和平均符號燧典星j14 .分別說明信源的概率分布和信道轉(zhuǎn)移概率對平均互信息的影響，說明平均互信息與信道容量的關(guān) 系。p(o)= l p(d = l15 .二元無記憶信源，有44 求：(1)某一信源序列

17、由100個二元符號組成，其中有 m個“1”，求其自信息量？(2)求100個符號構(gòu)成的信源序列的婿。16 .求以下三個信道的信道容量：0 0 1 o10 0 0 0 0 0 1口 0 10 01 0 01 0 00 1 00 1 00 0 10 0 1,pm0,1 02 0.3 04 00.3 0.7 000q.400002 01 0317.已知一 (3,1, 3)卷積碼編碼器，輸入輸出關(guān)系為:pl l必* v2 (z) = w(/) + u(l -1) + u(l - 2) +u(l - 3) v5(/) =(/) + /1 _ 2) +u( l 3)試給出其編碼原理框圖。18 .簡述信源的符

18、號之間的依賴與信源冗余度的關(guān)系。19 .簡述香農(nóng)第一編碼定理的物理意義 ？20 .什么是最小碼距，以及它和檢錯糾錯能力之間的關(guān)系。21 .簡述信息的特征22 .簡單介紹哈夫曼編碼的步驟一、 概念簡答題(每題 5分，共40分)h(x)= -河再)10gm為)1 .答：平均自信息為u表示信源的平均不確定度，也表示平均每個信源消息所提供的信息量。(鉆)題平均互信息- -表示從丫獲得的關(guān)于每個 x的平均信息量，也表示發(fā) x前后丫的平均不確定性減少的量，還表示通信 前后整個系統(tǒng)不確定性減少的量。2 .答：最大離散燧定理為：離散無記憶信源，等概率分布時燧最大。最大麻直為&*=電窺o3 .答：信息傳輸率r指

19、信道中平均每個符號所能傳送的信息量。信道容量是一個信道所能達到的最大 信息傳輸率。信息傳輸率達到信道容量時所對應(yīng)的輸入概率分布稱為最佳輸入概率分布。平均互信息是信源概率分布的n型凸函數(shù)，是信道傳遞概率的u型凸函數(shù)。4 .答：通信系統(tǒng)模型如下：數(shù)據(jù)處理定理為：串聯(lián)信道的輸入輸出x、丫、z組成一個馬爾可夫鏈，且有說明經(jīng)數(shù)據(jù)處理后，一般只會增加信息的損失hit / s5.答：香農(nóng)公式為,它是高斯加性白噪聲信道在單位時間內(nèi)的信道容量，其值取決于信噪比和帶寬。101g由p _p _麗二30 四得麗二100。，則 4 = 50001(1.1000) = 49836 她用 x）6 .答：只要 l 1。8口5

20、，當n足夠長時，一定存在一種無失真編碼。7 .答：當r0,各0,只要和閑那i ,則當l足夠長時必 可使譯碼差錯 1。說明：當信源的符號之間有依賴時，信源輸出消息的不確定性減弱。而信源冗余度正是反映信源符號依賴關(guān)系的強弱，冗余度越大，依賴關(guān)系就越大。（2分）2 .答：1）笈=039符號0 0616瓦符號c = 0,082穌符號,最佳輸入概率分布為等概率分布。3.答：1)二元碼的碼字依序為：10, 11, 010, 011, 1010, 1011, 1000, 1001平均碼長沅”符號,編碼效率% =。-972)三元碼的碼字依序為：1, 00, 02, 20, 21 , 22, 010, 011。

21、平均碼長4=1,加/符號，編碼效率飛.0 9364.答：1）最小似然譯碼準則下，有尸33）三/24112）最大錯誤概率準則下，有 5.答：1）輸入為00011時，碼字為00011110;輸入為10100時，碼字為10100101。2)t -=印 1叫（1 + -）6.答：1）無錯傳輸時，有或取5,6乂10, =4xl03kg2(l +即5xl0x4xl03）則尸2 0,0328小2）在入。.。班陶小式2叩.”自由度2尸.i7.答：1）由產(chǎn)(0)=尸(0)?/0) + f產(chǎn)(0/ d 尸(0)+尸=1得極限概率:則符號嫡為,.：2）新信源共8個序列，各序列的概率為 尸（出蒞蒼）信源模型為000

22、001010 0111000.54 0.06 0,013 0,053 0.061011101110.007 0.053 0.313一種編碼結(jié)果（依信源模型中的序列次序）為 0, 11, 1001, 1010, 1011, 10000, 100010, 100011_1 8k = 產(chǎn)(1)& - 0682加上/符號3)一二8.答：1）是準對稱信道，因此其最佳輸入概率分布為 r=頜/）=0,5。心）。55r （乃）=0.12sl）3 ,時有以內(nèi)）=0 35-丁 - lh（xfy） = h（x） -ix! y） - 0 7 汕符號占3）此時可用最大似然譯碼準則，譯碼規(guī)則為且有5=5尸（官/當）= g

23、0 2 + 01 +9.1答：1） n=6, k=3,由c=m函得所有碼字為 000000, 001011, 010110, 011101, 100101,rmnf5)= x20 2 = 0 25101110, 110011, 111000n minniq= ho on2)此碼是系統(tǒng)碼,由 g知)3)由h可知，其任意2列線性無關(guān)，而有錯誤圖樣e伴隨式s =1000001010100001100010000110001001000000100100000010014)由= 11 知 e= 010000,則h = qr / = 011010 m101001則l3列線性相關(guān)，故有 4t血-3 ,能糾

24、一位錯。r = r + - 0101109.2解：1） n=6,k=3,共有8個碼字。（3分）2）設(shè)碼字 c=（c5c4c3c2c1c0 m hct=0t得c2 二 ci 二co= 0，c4 c3 co = 0c5 c3 ci co =0令監(jiān)督位為。）,則有c2 = c5 二 c3 ci 式5 c0 =c4c310 0 1100 10 0 11生卡位噥4001101生成矩陣為-（3分）（汾）（2分）100110, 101011, 110101, 111000o （4分）3）所有碼字為 000000, 001101, 010011, 011110, 4）由 st =hrt 得s =（101）,

25、（2分）該碼字在第5位發(fā)生錯誤，（101001）糾正為（101011）,即譯碼為（101001） （1分）10.答：1）信道容量為c = l-7/（0 9, 0 1） =0 531 皿/符號信源序列信息量為1 ；-111而10秒內(nèi)信道能傳遞的信息量為1500x10x0 531-7965 bit故不能無失真地傳送完c 廣方白日斗 13000x7/（0 3,0.7）-11456.77 bit2）此時信源序列信息量為式二士久占修）1卷八）=0.4558瓦”符號1ref（x必）信息傳輸率為：-1t、11456.77-制t 2= 16 756 秒則-n = 7,jt =4,叮=11.答：1）-=57.1

26、4%理2)上(彳)= +1 = x4 + x2 + z +1 g3)c?w =10h000,01011000010110 h0001011l，而,uioioo,0111010oolllol4，二12.證明:p(x v j )i(x;y)= p%vj jog- x yp xp-1.10p(xivj)ogp(xi)- l|-z pp(xvjjogp%vj j(2分)x y_ x yu h x -h x y同理 i (x;y )= h(y )-h(y|x )(1 分)則 h y x = h y -i x;y因為 h(xy)=h(x )+h(yx )(1 分)故 h xy ):=h x h y -i x;y即 i(x;y)=h(x )+h(y)-h(xy)(1 分)13 .解：設(shè)a表示“大學(xué)生”這一事件，b表示“身高1.60以上”這一事件，則(2分)(2分)p(a)=0.25 p(b)=0.5 p(b|a)=0.7