信息論考試試題及答案

一、單項選擇題（每題2分，共10題）1.信息論的創(chuàng)始人是（）A.香農(nóng)B.維納C.馮·諾依曼D.圖靈答案：A2.信源發(fā)出的信號共有8種狀態(tài)，等概率出現(xiàn)，則信源的熵為（）A.1bitB.2bitC.3bitD.4bit答案：C3.下面哪個不是離散信源的特征（）A.輸出是離散符號B.符號間相互獨立C.輸出是連續(xù)量D.可用概率分布描述答案：C4.一個離散無記憶信源，其符號集為{0,1}，概率分別為0.6和0.4，則該信源的平均信息量為（）A.0.971bitB.0.8bitC.1bitD.1.2bit答案：A5.對于一個有噪信道，若輸入符號集為{0,1}，輸出符號集為{0,1}，則信道轉(zhuǎn)移概率矩陣為（），其中p表示錯誤概率。A.[[1-p,p],[p,1-p]]B.[[p,1-p],[1-p,p]]C.[[1-p,1-p],[p,p]]D.[[p,p],[1-p,1-p]]答案：A6.在信息編碼中，霍夫曼編碼屬于（）編碼。A.等長B.變長C.定比D.混合答案：B7.信息率失真函數(shù)的下限為（）A.0B.信源熵C.信道容量D.1答案：A8.以下哪種編碼方法主要用于糾錯（）A.霍夫曼編碼B.游程編碼C.漢明編碼D.算術(shù)編碼答案：C9.如果信源輸出有m個不同的符號，且每個符號的概率相等，則信源的熵為（）A.log?mB.mlog?mC.1/mlog?mD.log?(1/m)答案：A10.當信源與信宿之間的互信息達到信道容量時，以下說法正確的是（）A.信源分布為均勻分布B.信道無噪C.信源與信道達到最佳匹配D.信宿收到的信息無失真答案：C二、多項選擇題（每題2分，共10題）1.信息的特性包括（）A.可度量性B.可識別性C.可轉(zhuǎn)換性D.可存儲性E.可共享性答案：ABCDE2.離散信源按其記憶特性可分為（）A.無記憶信源B.有記憶信源C.離散無記憶信源D.離散有記憶信源E.平穩(wěn)信源答案：AB3.信道按其輸入輸出信號的特點可分為（）A.離散信道B.連續(xù)信道C.半離散半連續(xù)信道D.有記憶信道E.無記憶信道答案：ABC4.以下哪些屬于信源編碼的目的（）A.提高傳輸效率B.壓縮冗余信息C.提高信息的安全性D.降低誤碼率E.便于存儲答案：ABE5.信道容量的影響因素有（）A.信道的帶寬B.信號的功率C.噪聲的功率譜密度D.信源的熵E.信道的記憶特性答案：ABC6.在信息論中，以下關(guān)于互信息的說法正確的是（）A.互信息可以是負數(shù)B.互信息是信源與信宿之間的統(tǒng)計關(guān)聯(lián)程度C.當信源與信宿獨立時，互信息為0D.互信息不大于信源熵E.互信息不大于信道容量答案：BCDE7.下面屬于無損壓縮編碼的有（）A.霍夫曼編碼B.算術(shù)編碼C.LZW編碼D.JPEG編碼E.MP3編碼答案：ABC8.信源的不確定性可以用以下哪些量來描述（）A.熵B.平均信息量C.互信息D.信息率失真函數(shù)E.信道容量答案：AB9.以下關(guān)于信息率失真函數(shù)的說法正確的是（）A.它與信源分布有關(guān)B.它與失真度量有關(guān)C.它是在允許一定失真條件下的最小信息傳輸率D.它的值隨著允許失真度的增加而減小E.它的最小值為0答案：ABCDE10.信息傳輸?shù)挠行灾笜税ǎǎ〢.傳輸速率B.頻帶利用率C.誤碼率D.信道容量E.信源熵答案：AB三、判斷題（每題2分，共10題）1.信源熵越大，表示信源的不確定性越小。（×）2.信道容量是信道能夠傳輸?shù)淖畲笮畔⒘?。（√?.霍夫曼編碼是一種等長編碼。（×）4.互信息是對稱的，即I(X;Y)=I(Y;X)。（√）5.離散有記憶信源的熵小于離散無記憶信源的熵。（×）6.所有的無損壓縮編碼都能將文件壓縮到原始大小的一半以下。（×）7.信息率失真函數(shù)的值只與信源有關(guān)。（×）8.對于一個無噪信道，互信息等于信源熵。（√）9.信道的轉(zhuǎn)移概率只與信道本身的特性有關(guān)。（√）10.信源編碼主要解決信息傳輸?shù)目煽啃詥栴}。（×）四、簡答題（每題5分，共4題）1.簡述信源熵的定義。答案：信源熵是用來度量信源的不確定性的。對于離散信源，信源熵定義為信源輸出符號的自信息量的數(shù)學期望，它反映了信源輸出前平均不確定程度。2.說明信道容量的意義。答案：信道容量表示一個信道無差錯傳輸信息的最大能力。它是信道能夠可靠傳輸?shù)淖畲笮畔⑺俾?，反映了信道本身的特性以及信道輸入信號與噪聲之間的關(guān)系。3.簡述霍夫曼編碼的基本原理。答案：霍夫曼編碼基本原理是將信源符號按概率大小排序，把概率最小的兩個符號合并成一個新符號，重新計算概率，重復(fù)此過程構(gòu)建二叉樹。然后對二叉樹的分支分配0和1，從根到葉的路徑編碼就是霍夫曼編碼。4.解釋信息率失真函數(shù)的概念。答案：信息率失真函數(shù)是在允許一定失真度D的情況下，信源輸出信息率R(D)的最小值。它反映了在給定失真限度下，為了恢復(fù)信源符號所需的最小信息率。五、討論題（每題5分，共4題）1.討論信源編碼和信道編碼的區(qū)別與聯(lián)系。答案：區(qū)別：信源編碼目的是壓縮冗余提高效率，側(cè)重于對信源特性處理；信道編碼為提高傳輸可靠性，增加冗余抗干擾。聯(lián)系：都是信息傳輸中的編碼環(huán)節(jié)，信源編碼后的數(shù)據(jù)經(jīng)信道編碼后傳輸，兩者相互配合以實現(xiàn)高效可靠傳輸。2.分析噪聲對信道容量的影響。答案：噪聲增加時，信道中的不確定性增大。這會降低信道容量，因為噪聲干擾會使正確傳輸信息的能力下降，能可靠傳輸?shù)淖畲笮畔⒘繙p少。3.闡述如何提高信息傳輸?shù)挠行院涂煽啃?。答案：有效性：采用高效信?/p>