第三信道與信道容量2〉信道的作用 信道主要用于傳輸與存儲信息。3〉研究信道的目的1)描述、度量、分析不同類型信道；2)計(jì)算其容量，即極限傳輸能力，并分析其特性。4>信道傳輸能力取決于：1)本身特性2)信號形式3)信源特性§3-2信道的分類與描述一〉信道分類:信道可從不同角度加以分類,歸納起來可分為：從工程物理背景——傳輸媒介類型；從數(shù)學(xué)描述方式——信號與干擾描述方式；從信道本身的參數(shù)類型——恒參與變參；從用戶類型——單用戶與多用戶；二〉離散信道描述其中：

信道可以引用三組變量來描述：信道輸入概率空間：信道概率轉(zhuǎn)移矩陣：信道輸出概率空間：即：它可簡化為：

1）無擾信道:2）有擾無記憶信道:3）有擾有記憶信道:按信道的統(tǒng)計(jì)特性p(y/x)可將信道分為§3-3有擾單符號離散信道XYa1a2anb1b2bmP

(Y/X)一>數(shù)學(xué)模型p(bj/ai)傳遞概率（i=1,2,…,n；j=1,2,…,m)輸入輸出對應(yīng)關(guān)系：{X:{a1,a2,…,an}P(Y/X):{p(bj/ai)}Y:{b1,b2,…,bm}(i=1,2,…,n；j=1,2,…,m)特點(diǎn)：（1）0≤p(bj/ai)≤1(i=1,2,…,n；j=1,2,…,m)（2）[P]→信道矩陣=1圖3.3傳遞圖二〉信道容量下面，我們首先將互信息表達(dá)成概率的函數(shù)：

噪聲熵疑義度1、定義：12大家應(yīng)該也有點(diǎn)累了，稍作休息大家有疑問的，可以詢問和交流一般當(dāng)信道給定以后，（已知）

即，這時(shí)互信息僅決定于信源的先驗(yàn)分布，我們可以進(jìn)一步調(diào)整值使達(dá)到最大值，由互信息的性質(zhì),是的上凸函數(shù)，這時(shí)最大值一定存在，我們定義它為信道中傳送的最大信息率，即信道容量C，則即通過改變信道輸入的概率分布求得互信息的極值，稱它為給定信道的信道容量值。

2、信道容量及其一般算法信息傳輸率：(比特/信道符號）(比特/秒）若信道平均每傳一個符號需要t秒，則信息傳輸速率：信道容量：(比特/信道符號)(比特/秒)p(X)——匹配信源拉格朗日乘子法§3-3-1離散無擾信道及信道的容量1.無損確定信道：每列只有一個非零元素：信道輸入符號集符號數(shù)2.無損信道（具有擴(kuò)展性質(zhì)的信道）a1b1b2b3p11p12p13a2b4b4b4p24p25p26每列只有一個非零元素：信道輸入符號集符號數(shù)3.確定信道（歸并信道）b1a3a2a1111b2a6a5a4111每行只有一個非零元素：信道輸出符號集符號數(shù)一〉幾種對稱信道的信道容量一、強(qiáng)對稱信道的容量（均勻信道）1>輸入r與輸出s相等2>傳遞概率：r=s§3-3-2有擾信道及其容量

H(Y/X)H(Y/ai)常數(shù)特點(diǎn)：當(dāng)輸入信源X達(dá)到最大熵值時(shí)，輸出隨機(jī)變量

Y同時(shí)達(dá)到最大熵值，即：

H(X)=logr(2)當(dāng)輸入X等概分布時(shí)：(3)當(dāng)輸入信源等概時(shí)：信道容量1、數(shù)學(xué)模型：

矩陣中的每一行都是第一行的重排列或矩陣中的每一列都是第一列的重排列。二.一般性對稱信道定義3.1

如果信道轉(zhuǎn)移概率矩陣P中，每一行元素都是另一行相同元素的不同排列，則稱該信道關(guān)于行（輸入）對稱。定義3.2

如果信道轉(zhuǎn)移概率矩陣P中，每一列元素都是另一列相同元素的不同排列，則稱該信道關(guān)于列（輸出）對稱。

行：同一集合列：同一集合與強(qiáng)對稱信道的區(qū)別：1.強(qiáng)：r=s

對：r=s?2.強(qiáng)：行元素集合與列元素集合相等對：？3.強(qiáng)：行∑=1，列∑=1對：行∑=1，列：？4.強(qiáng)：對稱對：？例：

定理：對于單個消息離散對稱信道，當(dāng)且僅當(dāng)信道輸入輸出均為等概率分布時(shí)，信道達(dá)到容量值。即2、對稱信道的容量行：同一集合列：同一集合證：

等概信源§3-3-4離散單消息（或無記憶）信道容量C的計(jì)算：基本思路：

求C即求互信息極值，可以采用拉氏乘子求條件極值方法求解；§3-4-3信源與信道匹配信道剩余度=C-I(X,Y)相對剩余度=C-I(X,Y)/C=1-I(X,Y)/C無損信道相對剩余度=1-H(X)/logr無損信道C=logrI(X,Y)=H(X)§3-6連續(xù)信道及其容量連續(xù)信道：輸入輸出均為連續(xù)的,從時(shí)間關(guān)系上看：時(shí)間離散信道：時(shí)間連續(xù)信道：§3-6-1連續(xù)單消息信道及其容量一、單維連續(xù)通信系統(tǒng)數(shù)學(xué)模型：XYp(Y/X)兩類情況

高斯加性信道非高斯加性信道加性信道的重要性質(zhì)：信道的傳遞概率密度函數(shù)就等于噪聲的概率密度函數(shù)加性信道連續(xù)信道容量可以證明式中S

－信號平均功率（W）；

N

－噪聲功率（W）；

B

－帶寬（Hz）。設(shè)噪聲單邊功率譜密度為n0，則N=n0B； 故上式可以改寫成：由上式可見，連續(xù)信道的容量Ct和信道帶寬B、信號功率S及噪聲功率譜密度n0三個因素有關(guān)。 當(dāng)S

，或n0

0時(shí)，Ct

。 但是，當(dāng)B

時(shí)，Ct將趨向何值？令：x=S/n0B，上式可以改寫為：利用關(guān)系式上式變?yōu)?上式表明，當(dāng)給定S/n0時(shí)，若帶寬B趨于無窮大，信道容量不會趨于無限大，而只是S/n0的1.44倍。這是因?yàn)楫?dāng)帶寬B增大時(shí)，噪聲功率也隨之增大。

Ct和帶寬B的關(guān)系曲線：圖4-24信道容量和帶寬關(guān)系S/n0S/n0BCt1.44(S/n0)上式還可以改寫成如下形式：式中 Eb

－每比特能量；

Tb=1/B

－每比特持續(xù)時(shí)間。 上式表明，為了得到給定的信道容量Ct，可以增大帶寬B以換取Eb的減??；另一方面，在接收功率受限的情況下，由于Eb=STb，可以增大Tb以減小S來保持Eb和