基于貝葉斯方法的系統(tǒng)辨識、貝葉斯、最大后驗概率估計葉斯的起源和基本原理對于統(tǒng)計決策函數(shù)、統(tǒng)計推斷、統(tǒng)計的估算等做出了貢獻.1763年發(fā)表了這方面。貝葉斯(ReverendThomasBayes1702-1761)學派奠基性的作品是貝葉斯的的數(shù)學家拉普拉(Laplace,P.S)用貝葉斯的方法導出了重要的“相繼律”，貝葉斯意大利的菲納特(B.deFinetti)及其英國的杰弗(Jeffreys,H.)都對貝葉斯學派的第二次世界大戰(zhàn)后，瓦爾德(Wald,A.)提出了統(tǒng)計的決策理論，在這一理1958年英國最悠久的統(tǒng)計雜志Biometrika全文重新刊登了貝葉斯的論文，20世RobbinsH為代表，提出了經(jīng)驗貝葉斯方法和經(jīng)典方法P(BA)P(A)P(BA,C)P(AC)P(BP(BA)P(A)P(BA,C)P(AC)P(B)P(BC)由已知的先驗概率P(BA)求出P(AB)Zk=z(k),u(k),z(k-1),u(k-1),,z(1),u(1),z(0),u(0)}Zkz(k-1),u(k-1),z(k-2),u(k-2),,z(1),u(1),z(0),u(0)}Zk=z(k),u(k),Zk-1}p(9|Zk)=p(9|z(k),Zk-1)=p(9|Z1)=p(9|z(1),z0)=原則上說，根據(jù)(1)式可求得θ的后驗概率密度函數(shù)，但實際上這是有困難有可能得到(1)式的解析解。求得參數(shù)θ的后驗概率密度后，就可以利用它進一參數(shù)估計方法2.1極大后驗參數(shù)估計方法極大后驗參數(shù)估計方法就是把后驗概率密度函數(shù)p(9|Zk)，達到極大值作為Maxp(9|Zk)orMaxp(9|Zk)or?9 kalogp|Zk-1)9?=0(4)MAPMAP若讓式(4)第一項取0，則對應的估計就是極大似然估計?？梢姡瑯O大后2.2條件期望參數(shù)估計方法3.1最小二乘模型的Bayes參數(shù)辨識kzk,-zT(k-n),u(k-1),u(k-m)]TP(9Zk)=(6)Zi，均值為，協(xié)方差陣為 P0lJ P0lJ(9)p(z(k)|9,Z)=1exp|-p(9|Z)=Norm.exp|-1「z(k)-QNorm：Norm=(2)-N/2pzkZk將(11)式兩邊取對數(shù)后分別對θ求導，得：?9Lk」k-1Lk-1」?logp(9|Zk)=1Q「z(k)-Q?9Lk」k-1Lk-1」由(13)式計算得：TT-1?1T-1TII-2Qk令1Kk=PkQk，則得出：k22k2k-2logp(9|Z)=Const+2(k)-(k)0T9-1k22k2k2kkk-1k-1k-1k-1k-1k-1k-1k-1+19T02kkk-1k-1k-1k-1k-1k-1k-1k-1PPTP-9T0kz(k)+9?1k-1-0kz(k)+9?1k-1]|T9=Const，+「|9-1P0z(k)-PP-19?]|TP-1|「9-1P0z(k)-PP-19?]|L|kkkk-1k-1」|kL|2kkkk-1k-1」|3.2貝葉斯估計收斂性k2kk利用K=1k2kkz(k)-0T9?=z(k)-0T{9?+K[z(k)-0T9?]}=(1-0T)1(k)k-0T]kk-1kkkk-1=(1-0kTPk0k)[z(k)-0T9?]2kk-1E(2)=E[D(z(k))]=E[0T9-0T9?]2=E[0T(9-9?)]2kkkkkkkkkkkkkk=E[0T(9-9?)(9k-)T]k=0Tkkkkkkkkkkkkkk4.1.仿真模型V(k)e(k)++u(u(k)z(k)yz(k)(|A(z-1)=1-1.5z-1+0.7z-2=C(z-1)zzu(k)G(z-1)+v(k)N(z-1)=z(k)u(k)+v(k)=z(k)u(k)B(z-1)+v(k)D(z-1)=z(k)A(z-1)ukzzv(k)(1-z-1+0.2z-2)=z(k)(1-1.5z-1+0.7z-2)1.0u(k)z-1+0.5u(k)z-2+v(k)-v(k)z-1+0.2v(k)z-2=z(k)-1.5z(k)z-1+0.7z(k)z-24.2程序流程圖應及模型斂情況NY應及模型斂情況NY給被識別的e和P賦初值參數(shù)bb1bb 2dd1dd2dd3值析態(tài)，即a1=-1.5000,a2=0.7000,b1=1.0000,b2=0.5000,d1=1.0000,例的Bayes最小二乘遞推算法的辨識結(jié)果與增廣最小二乘遞推算法的辨識結(jié)果sy1;y2=1;y3=1;y4=0;%四個移位積存器的輸出初始值xxory,y4);%第一個移位積存器的輸入信號xy%第二個移位積存器的輸入信號xy%第三個移位積存器的輸入信號xy%第四個移位積存器的輸入信號y(i)=y4;%第四個移位積存器的輸出信號，幅值"0"和"1"ify(i)>0.5,u(i)=-1;%M序列的值為"1"時,辨識的輸入信號取“-1”elseu(i)=1;%M序列的值為"0"時,辨識的輸入信號取“1”endyx1;y2=x2;y3=x3;y4=x4;%為下一次的輸入信號作準備figure形subplot(2,1,1);%畫第一個圖形的第一個子圖stem(u),gridon%畫出M序列輸入信號v=randn(1,60);%產(chǎn)生一組60個正態(tài)分布的隨機噪聲subplot(2,1,2);%畫第一個圖形的第二個子圖plot(v),gridon;%畫出隨機噪聲信號R=corrcoef(u,v);%計算輸入信號與隨機噪聲信號的相關(guān)系數(shù)r=R(1,2)%取出互相關(guān)系數(shù)rv=std(v)*std(v)%計算隨機噪聲的方差u%顯示輸入信號v%顯示噪聲信號zzeros0);zm=zeros(1,60);%定義輸出采樣矩陣與模型輸出矩陣的大小z;z(1)=0;zs(2)=0;zs(1)=0;%輸出采樣、系統(tǒng)實際輸出、模型輸出賦初值zm;zm(1)=0;%模型輸出賦初值sc0=[0.0010.0010.0010.0010.0010.0010.001]';%直接給出被辨識參數(shù)的初始值,p0=10^6*eye(7,7);%直接給出初始狀態(tài)P0，即一個充分大的實數(shù)單位矩陣E=5.e-9;%相對誤差E=0.000000005c=[c0,zeros(7,59)];%被辨識參數(shù)矩陣的初始值及大小e=zeros(7,60);%相對誤差的初始值及大小fork=3:60;%開始求Kxh*p0*h1+rv;xinvx);k1=p0*h1*x1;%Kccce2=e1./c0;%求參數(shù)的相對變化e(:,k)=e2;c0=c1;%給下一次用c(:,k)=c1;%把辨識參數(shù)c列向量加入辨識參數(shù)矩陣p1=p0-k1*k1'*x;%findp(k)p0=p1;%給下次用ife2<=Ebreak;%若收斂情況滿足要求，終止計算end%判斷結(jié)束end%循環(huán)結(jié)束c,e,z,zs,zm%顯示被辨識參數(shù)、誤差情況、輸出采樣值、實際輸出值、模型輸出值%分離賦值a1=c(1,:);a2=c(2,:);b1=c(3,:);b2=c(4,:);%分離出a1、a2、b1、b2figure形plot(i,a1,'r',i,a2,'r:',i,b1,'b',i,b2,'b:',i,d1,'g',i,d2,'g:',i,d3,'g+')%畫出各個被辨識參數(shù)lePa