第五章預測編碼預測編碼（Predictivecoding）是數(shù)據(jù)壓縮三大經(jīng)典技術（統(tǒng)計編碼、預測編碼、變換編碼）之一。預測編碼是建立在信號（語音、圖像等）數(shù)據(jù)的相關性之上，較早實用于數(shù)據(jù)壓縮的一種技術。它根據(jù)某一模型利用以往的樣本值對于新樣本進行預測，減少數(shù)據(jù)在時間和空間上的相關性，以達到壓縮數(shù)據(jù)的目的。導入數(shù)據(jù)源的建立是十分困難的，有時無法得到其數(shù)學模型。利用現(xiàn)代統(tǒng)計學和控制論的“時間序列分析”理論，可以較好地解決復雜系統(tǒng)的輸出狀態(tài)問題。已有樣本值現(xiàn)時的系統(tǒng)輸出采用線性或非線性預測函數(shù)，最小均方誤差為準則預測編碼的基本概念導入5.1

DPCM的基本原理對于具有M種取值的符號序列{xk},其第L個符號的熵滿足:log2M≥H(xL)≥H(xL|xL-1)≥H(xL|xL-1,

xL-2)≥···≥H(xL|xL-1,

xL-2,···,x1)>H∞知道前面的符號xL(k<L),再猜后續(xù)符號

xL,則知道得越多,熵越小。意味著該信源的不確定度減小,數(shù)碼率自然降低?；A理論：數(shù)據(jù)源不可能用一個數(shù)學模型完全表示，并使得信源的輸出始終和該模型的輸出完全一致，精確預測(或產(chǎn)生)這些數(shù)據(jù)。實際上實際情況中只能爭取設計最好的預測器，以某種最小化的誤差對下一個取樣值進行預測。5.1DPCM的基本原理發(fā)展歷史1952年，Bell實驗室的B.M.Oliver

等人開始線性預測編碼理論研究。同年，該實驗室的C.C.Culter取得了DPCM(DifferentialPulseCodeModulation,差分脈沖編碼調制)系統(tǒng)的專利，奠定了真正實用的預測編碼系統(tǒng)的基礎。5.1DPCM的基本原理預測編碼技術：從過去的符號樣本來預測下一個符號樣本的值。直觀理解：根據(jù)：認為在信源符號之間存在相關性。如果符號的預測值與符號的實際值比較接近，它們之間的差值幅度的變化就比原始信源符號幅度值的變化小，因此量化這種差值信號時就可以用比較少的位數(shù)來表示差值。DPCM的基礎—對預測的樣本值與原始的樣本值之差進行編碼。5.1DPCM的基本原理DPCM系統(tǒng)圖5.1DPCM系統(tǒng)原理框圖量化器預測器編碼器xk-ekSk信道解碼器預測器發(fā)送端接收端5.1DPCM的基本原理發(fā)送端先發(fā)送一個其始值x0;接著就只發(fā)送預測誤差值;接收端接收到量化后的誤差與本地算出的預測值相加,得到恢復信號;式中線性預測：5.1DPCM的基本原理如果沒有傳輸誤碼，預測編碼系統(tǒng)的誤差為：(5.1-3)正是發(fā)送端量化器造成的量化誤差。對于xk已經(jīng)是數(shù)字信號，去掉量化器，qk

=0： 如果qk≠0:可用于“信息保持型”(Lossless)編碼；可用于“非信息保持型”(Lossy)編碼。5.1DPCM的基本原理5.2

最佳線性預測含有量化器的DPCM系統(tǒng)：帶反饋的非線性系統(tǒng)，難以對預測器和量化器進行嚴格的全局優(yōu)化設計。常用的簡化方法：分別討論，得到局部最優(yōu)解。DPCM系統(tǒng)的核心問題：預測器的設計預測器越好，差值就越集中分布在零附近，碼率就能壓縮越多。5.2

最佳線性預測線性預測：時不變線性預測：簡化，令ai(k)=ai與k無關,用原始取樣值替代xi量化