《信息論與編碼》課程教學(xué)大綱課程編號(hào)33442004課程名稱信息論與編碼課程性質(zhì)*專業(yè)基礎(chǔ)類英文名稱InformationTheoryandCoding*數(shù)學(xué)與自然科學(xué)類、工程基礎(chǔ)類、專業(yè)基礎(chǔ)類、專業(yè)類、工程實(shí)踐與畢業(yè)設(shè)計(jì)（論文）、人文社會(huì)科學(xué)類；學(xué)分學(xué)時(shí)處（）內(nèi)為實(shí)驗(yàn)學(xué)時(shí)。一、課程簡(jiǎn)介《信息論與編碼》是信息類專業(yè)重要的專業(yè)基礎(chǔ)課之一。該課程主要培養(yǎng)學(xué)生如何對(duì)信息科學(xué)中的可能性和存在性的問題進(jìn)行研究的能力。課程重點(diǎn)研究信息論基礎(chǔ)和編碼理論。信息論與編碼是理論性很強(qiáng)的學(xué)科，學(xué)生需要較好的數(shù)學(xué)功底。在完成本課程的學(xué)習(xí)后，學(xué)生能夠掌握信源和信道的基本理論以及信源編碼的基本方法，并為后續(xù)的《通信原理》等課程學(xué)習(xí)奠定理論基礎(chǔ)。二、課程教學(xué)目標(biāo)信息論與編碼側(cè)重講授信息論基礎(chǔ)理論和基礎(chǔ)的編碼理論。通過學(xué)習(xí)，學(xué)生能夠熟練計(jì)算離散信源的信息量和信息熵、離散序列信源的序列熵以及信源的冗余度；學(xué)生能夠熟練計(jì)算離散單符號(hào)信道以及離散序列的信道容量；學(xué)生能夠熟練計(jì)算離散信源的信息率失真函數(shù)；學(xué)生能夠熟練對(duì)信源進(jìn)行簡(jiǎn)單編碼。講授過程植入抗戰(zhàn)時(shí)期我黨采用的密碼趣聞（如：難懂的溫州話）以及國(guó)內(nèi)知名密碼學(xué)者（如山東大學(xué)王小云教授破解MD5和SHA-1加密算法）的事跡，旨在培育學(xué)生創(chuàng)新精神，使學(xué)生的學(xué)習(xí)能力提升的同時(shí)，精神層面也得到升華。本課程的具體教學(xué)目標(biāo)如下：1．掌握信息論與編碼的基本概念并將其應(yīng)用與后續(xù)專業(yè)知識(shí)的學(xué)習(xí)中。具體為：學(xué)生能夠界定出信息論學(xué)科的發(fā)展階段并指出它的研究?jī)?nèi)容；描述通信系統(tǒng)的模型；列舉信息論的應(yīng)用。學(xué)生能夠分類信源的類型；歸納不同信源的數(shù)學(xué)模型；對(duì)信道進(jìn)行分類；歸納不同信道的數(shù)學(xué)模型；復(fù)述信息率失真函數(shù)的概念；區(qū)別信源編碼和信道編碼的概念。[1.2]2．掌握信息論與編碼的基本理論以及計(jì)算方法和常用的編譯碼方式，從而對(duì)通信過程中信息的產(chǎn)生、發(fā)送、傳輸以及編譯碼進(jìn)行識(shí)別、表達(dá)和分析，并獲得有效結(jié)論。具體為：學(xué)生能夠計(jì)算離散信源熵和互信息；計(jì)算離散序列信源的熵；計(jì)算離散單個(gè)符號(hào)信道的信道容量；計(jì)算離散序列的信道容量；熟練運(yùn)用無失真信源編碼定理以及限失真信源編碼定理；熟練套用常用信源編碼方法。[2.1]3．能夠利用專業(yè)知識(shí)，針對(duì)給定需求對(duì)通信系統(tǒng)中信息傳遞的性能進(jìn)行分析。具體為：學(xué)生能夠評(píng)估信源的冗余度；比較信源與信道的匹配程度；推演離散信源的信息率失真函數(shù)。[1.2、2.1]課程教學(xué)目標(biāo)與畢業(yè)要求的對(duì)應(yīng)關(guān)系見表1：表1畢業(yè)要求指標(biāo)點(diǎn)實(shí)現(xiàn)矩陣畢業(yè)要求畢業(yè)要求指標(biāo)點(diǎn)課程目標(biāo)1．工程知識(shí)1.1掌握電子信息工程專業(yè)理論和知識(shí)體系的數(shù)學(xué)和自然科學(xué)知識(shí)，將其應(yīng)用于信息技術(shù)（IT）行業(yè)知識(shí)和專業(yè)知識(shí)的學(xué)習(xí)。1，32．問題分析2.1具備應(yīng)用數(shù)學(xué)、自然科學(xué)和工程科學(xué)的基本原理和方法，認(rèn)識(shí)與判斷電子信息工程（含海洋電子信息）相關(guān)領(lǐng)域復(fù)雜工程問題中的關(guān)鍵環(huán)節(jié)，使用數(shù)學(xué)模型和專業(yè)知識(shí)解釋與描述復(fù)雜工程問題的能力。2，3三、課程教學(xué)目標(biāo)達(dá)成途徑（或教學(xué)設(shè)計(jì)）表2教學(xué)目標(biāo)達(dá)成途徑課程教學(xué)目標(biāo)達(dá)成途徑考核方式1．掌握信息論與編碼的基本概念并將其應(yīng)用與后續(xù)專業(yè)知識(shí)的學(xué)習(xí)中。具體為：學(xué)生能夠界定出信息論學(xué)科的發(fā)展階段并指出它的研究?jī)?nèi)容；描述通信系統(tǒng)的模型；列舉信息論的應(yīng)用。學(xué)生能夠分類信源的類型；歸納不同信源的數(shù)學(xué)模型；對(duì)信道進(jìn)行分類；歸納不同信道的數(shù)學(xué)模型；復(fù)述信息率失真函數(shù)的概念；區(qū)別信源編碼和信道編碼的概念。通過課堂講授與學(xué)生學(xué)習(xí)，作業(yè)等達(dá)成。課堂表現(xiàn)與考試。2．掌握信息論與編碼的基本理論以及計(jì)算方法和常用的編譯碼方式，從而對(duì)通信過程中信息的產(chǎn)生、發(fā)送、傳輸以及編譯碼進(jìn)行識(shí)別、表達(dá)和分析，并獲得有效結(jié)論。具體為：學(xué)生能夠計(jì)算離散信源熵和互信息；計(jì)算離散序列信源的熵；計(jì)算離散單個(gè)符號(hào)信道的信道容量；計(jì)算離散序列的信道容量；熟練運(yùn)用無失真信源編碼定理以及限失真信源編碼定理；熟練套用常用信源編碼方法。通過課堂講授與學(xué)生實(shí)驗(yàn),作業(yè)等達(dá)成。習(xí)題作業(yè)、實(shí)驗(yàn)報(bào)告與考試。3．能夠利用專業(yè)知識(shí)，針對(duì)給定需求對(duì)通信系統(tǒng)中信息傳遞的性能進(jìn)行分析。具體為：學(xué)生能夠評(píng)估信源的冗余度；比較信源與信道的匹配程度；推演離散信源的信息率失真函數(shù)。通過課堂講授與學(xué)生學(xué)習(xí)，作業(yè)等達(dá)成。習(xí)題作業(yè)與考試。四、課程教學(xué)內(nèi)容、教與學(xué)的要求1、理論教學(xué)環(huán)節(jié)為主：本課程是一門偏重于理論教學(xué)的課程，目前理論教學(xué)和實(shí)踐教學(xué)的比例確定為4:1，強(qiáng)調(diào)學(xué)生的扎實(shí)理論功底的養(yǎng)成和分析并解決實(shí)際問題的能力的培養(yǎng)。課堂授課以講授式教學(xué)為主：基于電子信息系統(tǒng)信息處理與傳輸工作流程構(gòu)建課程教學(xué)體系，根據(jù)課程特點(diǎn)采用啟發(fā)式教學(xué)、任務(wù)驅(qū)動(dòng)教學(xué)進(jìn)行教學(xué)方法創(chuàng)新，核心能力知識(shí)點(diǎn)采用“原理描述-設(shè)計(jì)要點(diǎn)分析-實(shí)例展示”相互呼應(yīng)的教學(xué)模式；輔以網(wǎng)絡(luò)多媒體教學(xué)、課程獨(dú)立網(wǎng)站（含教學(xué)視頻）同步學(xué)習(xí)，每周平均講授4學(xué)時(shí)，與專業(yè)相關(guān)實(shí)踐教學(xué)環(huán)節(jié)和場(chǎng)景配合呼應(yīng)。2、實(shí)踐教學(xué)環(huán)節(jié)為輔：①注重學(xué)生理論體系在實(shí)踐中的體現(xiàn)——設(shè)置從簡(jiǎn)單到復(fù)雜并且符合課程脈絡(luò)的實(shí)驗(yàn)例程，充分梳理課程結(jié)構(gòu)，調(diào)動(dòng)學(xué)生的學(xué)習(xí)積極性；②提供實(shí)踐能力培養(yǎng)的平臺(tái)——為學(xué)生提供實(shí)驗(yàn)例程之外且需要進(jìn)行獨(dú)立思考的內(nèi)容，以增強(qiáng)學(xué)生的實(shí)踐學(xué)習(xí)能力。3、注重學(xué)生興趣的培養(yǎng)，充分調(diào)動(dòng)學(xué)生的學(xué)習(xí)積極性。實(shí)踐教學(xué)以學(xué)生自主完成實(shí)驗(yàn)任務(wù)和教師輔導(dǎo)相結(jié)合，通過對(duì)學(xué)生每個(gè)實(shí)驗(yàn)完成情況的詢問和了解，一方面在實(shí)驗(yàn)課堂輔導(dǎo)的基礎(chǔ)上增加了與學(xué)生進(jìn)行實(shí)踐經(jīng)驗(yàn)交流的環(huán)節(jié)，另一方面督促學(xué)生切實(shí)理解和掌握實(shí)踐環(huán)節(jié)的每個(gè)知識(shí)點(diǎn)，確保實(shí)踐教學(xué)成效。本課程理論教學(xué)內(nèi)容與教學(xué)要求見表3。表3教學(xué)內(nèi)容與教學(xué)要求序號(hào)教學(xué)內(nèi)容教與學(xué)的要求學(xué)時(shí)教學(xué)目標(biāo)11概論1.1信息的概念和分類1.2信息論的起源和發(fā)展1.3信息論的研究?jī)?nèi)容（講解抗戰(zhàn)時(shí)期為了不讓日軍破譯電報(bào)密碼而選用難懂的溫州話來傳輸電文）1.要求（1）學(xué)生能夠明確信息的概念和分類（2）學(xué)生能夠界定出信息論學(xué)科的發(fā)展階段并指出它的研究?jī)?nèi)容；（3）學(xué)生能夠描述通信系統(tǒng)的模型；（4）學(xué)生能夠列舉信息論的應(yīng)用。2.作業(yè)內(nèi)容（1）學(xué)習(xí)和了解信息論的發(fā)展歷程；（2）復(fù)習(xí)第一章內(nèi)容；（3）完成教材第一章課后作業(yè)3.教學(xué)方法：講授式、討論式與啟發(fā)式相結(jié)合。21，222離散信源熵2.1基本概念2.2離散信源熵的基本概念和性質(zhì)2.3多符號(hào)離散平穩(wěn)信源熵1.要求（1）學(xué)生能夠計(jì)算單符號(hào)離散信源熵；（2）學(xué)生能夠掌握信源熵及其性質(zhì)；（3）學(xué)生能夠計(jì)算多符號(hào)離散平穩(wěn)信源熵；（4）學(xué)生能夠計(jì)算信源的冗余度、自然語信源及信息差變。2.作業(yè)內(nèi)容（1）復(fù)習(xí)第二章內(nèi)容；（2）完成教材第二章課后作業(yè)。3.教學(xué)方法：講授式、討論式與啟發(fā)式相結(jié)合。101，233無失真離散信源編碼3.1基本概念3.2離散無失真信源編碼定理3.3香農(nóng)編碼3.4費(fèi)諾編碼3.5赫夫曼編碼3.6游程組合編碼3.7算數(shù)編碼1.要求（1）學(xué)生能夠說明信源編碼的基本概念；（2）學(xué)生能夠復(fù)述無失真信源編碼定理，包括定長(zhǎng)編碼定理和變長(zhǎng)編碼定理；（3）學(xué)生能夠理解碼字唯一可譯條件；（4）學(xué)生能夠掌握香農(nóng)編碼、費(fèi)諾編碼、赫夫曼編碼編碼方法和步驟；（5）學(xué)生能夠復(fù)述游程組合編碼和算數(shù)編碼的編碼方法和步驟。2.作業(yè)內(nèi)容（1）復(fù)習(xí)第三章內(nèi)容；（2）完成教材第三章課后作業(yè)。3.教學(xué)方法：講授式、討論式與啟發(fā)式相結(jié)合。10144離散信道容量4.1互信息量和平均互信息量4.2單符號(hào)離散信道的信道容量4.3多符號(hào)離散信道的信道容量4.4網(wǎng)絡(luò)信息論1.要求（1）學(xué)生能夠計(jì)算互信息量和平均互信息量；（2）學(xué)生能夠復(fù)述互信息量的性質(zhì)以及平均互信息量的性質(zhì)；（3）學(xué)生能夠說明信道容量的概念；（4）學(xué)生能夠推演單符號(hào)離散信道的信道容量；（5）學(xué)生能夠推演多符號(hào)離散信道的信道容量；（6）學(xué)生能夠說明網(wǎng)絡(luò)信息論的基本概念并能夠進(jìn)行簡(jiǎn)單計(jì)算。2.作業(yè)內(nèi)容（1）復(fù)習(xí)第四章內(nèi)容；（2）完成教材第四章課后作業(yè)。3.教學(xué)方法：講授式、討論式與啟發(fā)式相結(jié)合。101，2，3實(shí)驗(yàn)內(nèi)容見表4所示。表4實(shí)驗(yàn)安排表序號(hào)實(shí)驗(yàn)項(xiàng)目名稱目的要求學(xué)時(shí)分配實(shí)驗(yàn)類型每組人數(shù)必開選開課程目標(biāo)1信息熵的計(jì)算①使學(xué)生進(jìn)一步鞏固信息熵的基本概念；②掌握信息熵的計(jì)算方法；③培養(yǎng)學(xué)生使用編程工具進(jìn)行分析計(jì)算的基本能力。2驗(yàn)證與設(shè)計(jì)1必開22信道容量的迭代計(jì)算①使學(xué)生進(jìn)一步鞏固信息容量的基本概念；②掌握信息容量的迭代計(jì)算的基本原理和方法；③培養(yǎng)學(xué)生使用編程工具進(jìn)行分析計(jì)算的基本能力。2驗(yàn)證與設(shè)計(jì)1必開23Huffman編碼的實(shí)現(xiàn)①使學(xué)生進(jìn)一步鞏固霍夫曼編碼的原理；②掌握一般赫夫曼編碼方法和最佳赫夫曼編碼方法；③培養(yǎng)學(xué)生使用編程工具進(jìn)行分析計(jì)算的基本能力。4設(shè)計(jì)1必開2五、課程考核及成績(jī)?cè)u(píng)定1．考核方式：閉卷筆試，平時(shí)測(cè)驗(yàn)，作業(yè)及實(shí)驗(yàn)報(bào)告。2．成績(jī)構(gòu)成：筆試成績(jī)60%，平時(shí)成績(jī)40%（課后作業(yè)、課堂表現(xiàn)、實(shí)驗(yàn)成績(jī)等）。3．考核評(píng)價(jià)標(biāo)準(zhǔn)見表5所示。表5教學(xué)目標(biāo)評(píng)價(jià)標(biāo)準(zhǔn)成績(jī)類型分值權(quán)重類別權(quán)重考核/評(píng)價(jià)細(xì)則課程目標(biāo)畢業(yè)要求平時(shí)成績(jī)1000.4課堂表現(xiàn)0.08根據(jù)學(xué)生課堂表現(xiàn)打分，滿分100。11.2作業(yè)0.09根據(jù)學(xué)生對(duì)知識(shí)點(diǎn)的理解和掌握程度評(píng)分；共4次作業(yè)，每次作業(yè)滿分25分，作業(yè)總成績(jī)100分。22.10.0331.2，2.1實(shí)驗(yàn)0.2根據(jù)實(shí)驗(yàn)完成質(zhì)量以及實(shí)驗(yàn)報(bào)告質(zhì)量評(píng)分；共三次實(shí)驗(yàn)，其中前兩個(gè)實(shí)驗(yàn)滿分均為25分，第三個(gè)實(shí)驗(yàn)滿分50分，實(shí)驗(yàn)總成績(jī)100分。22.1期末考試成績(jī)1000.6閉卷考試0.06(1)卷面成績(jī)100分。卷面成績(jī)按比例計(jì)入課程總評(píng)成績(jī)。(2)考核內(nèi)容包括：第1-5章。(3)建議考試題型包括：填空題、選擇題、分析判斷、畫圖題、簡(jiǎn)單計(jì)算題、綜合計(jì)算題、證明題等其中某幾種題型。11.20.4822.10.0631.2，2.1六、課程教學(xué)目標(biāo)達(dá)成度評(píng)價(jià)1．達(dá)成度評(píng)價(jià)依據(jù)和方法課程各目標(biāo)達(dá)成情況為該項(xiàng)目學(xué)生的平均得分率，其計(jì)算公式為：課程總目標(biāo)達(dá)成情況為3個(gè)課程目標(biāo)的加權(quán)得分率，其計(jì)算公式為：其中權(quán)重系數(shù)按照表6設(shè)定。表6課程目標(biāo)權(quán)重系數(shù)課程目標(biāo)123權(quán)重系數(shù)0.140.770.09課程畢業(yè)要求指標(biāo)點(diǎn)達(dá)成情況評(píng)價(jià)：課程支撐畢業(yè)要求指標(biāo)點(diǎn)的達(dá)成情況為對(duì)應(yīng)的課程目標(biāo)達(dá)成情況的加權(quán)值，其計(jì)算公式為：2．課程總結(jié)要求依據(jù)達(dá)成度評(píng)價(jià)、教師自評(píng)、學(xué)生評(píng)價(jià)，以及課程教學(xué)情況、考試情況，對(duì)課程進(jìn)行有針對(duì)性的總結(jié)，每學(xué)年撰寫試卷分析、課程總結(jié)與自我評(píng)價(jià)表，提出持續(xù)改進(jìn)課程教學(xué)的措施。七、教材及參考資料1．教材曹雪虹，張宗橙編.信息論與編碼