1、精選優(yōu)質(zhì)文檔-傾情為你奉上感知器算法求判別函數(shù)一、 實(shí)驗(yàn)?zāi)康?掌握判別函數(shù)的概念和性質(zhì)，并熟悉判別函數(shù)的分類方法，通過(guò)實(shí)驗(yàn)更深入的了解判別函數(shù)及感知器算法用于多類的情況，為以后更好的學(xué)習(xí)模式識(shí)別打下基礎(chǔ)。二、 實(shí)驗(yàn)內(nèi)容 學(xué)習(xí)判別函數(shù)及感知器算法原理，在MATLAB平臺(tái)設(shè)計(jì)一個(gè)基于感知器算法進(jìn)行訓(xùn)練得到三類分布于二維空間的線性可分模式的樣本判別函數(shù)的實(shí)驗(yàn)，并畫出判決面，分析實(shí)驗(yàn)結(jié)果并做出總結(jié)。三、 實(shí)驗(yàn)原理3.1 判別函數(shù)概念直接用來(lái)對(duì)模式進(jìn)行分類的準(zhǔn)則函數(shù)。若分屬于1，2的兩類模式可用一方程d(X) =0來(lái)劃分，那么稱d(X) 為判別函數(shù)，或稱判決函數(shù)、決策函數(shù)。如，一個(gè)二維的兩類判別問題，模

2、式分布如圖示，這些分屬于1，2兩類的模式可用一直線方程 d(X)=0來(lái)劃分。其中 (1) 為坐標(biāo)變量。將某一未知模式 X 代入（1）中： 若，則類； 若，則類； 若，則或拒絕維數(shù)=3時(shí)：判別邊界為一平面。維數(shù)>3時(shí)：判別邊界為一超平面1。3.2 感知器算法1958年，(美)F.Rosenblatt提出，適于簡(jiǎn)單的模式分類問題。感知器算法是對(duì)一種分類學(xué)習(xí)機(jī)模型的稱呼，屬于有關(guān)機(jī)器學(xué)習(xí)的仿生學(xué)領(lǐng)域中的問題，由于無(wú)法實(shí)現(xiàn)非線性分類而下馬。但“賞罰概念（ reward-punishment concept）” 得到廣泛應(yīng)用，感知器算法就是一種賞罰過(guò)程2。兩類線性可分的模式類 ，設(shè)其中，應(yīng)具有性質(zhì)

3、 （2）對(duì)樣本進(jìn)行規(guī)范化處理，即2類樣本全部乘以(1)，則有： （3）感知器算法通過(guò)對(duì)已知類別的訓(xùn)練樣本集的學(xué)習(xí)，尋找一個(gè)滿足上式的權(quán)向量。感知器算法步驟： （1）選擇N個(gè)分屬于1和 2類的模式樣本構(gòu)成訓(xùn)練樣本集 X1 , XN 構(gòu)成增廣向量形式，并進(jìn)行規(guī)范化處理。任取權(quán)向量初始值W(1)，開始迭代。迭代次數(shù)k=1。（2）用全部訓(xùn)練樣本進(jìn)行一輪迭代，計(jì)算WT(k)Xi 的值，并修正權(quán)向量。分兩種情況，更新權(quán)向量的值：1. 分類器對(duì)第i個(gè)模式做了錯(cuò)誤分類，權(quán)向量校正為： c：正的校正增量。2. 若分類正確，權(quán)向量不變：,統(tǒng)一寫為： （4） （3）分析分類結(jié)果：只要有一個(gè)錯(cuò)誤分類，回到（2），直至

4、對(duì)所有樣本正確分類。感知器算法是一種賞罰過(guò)程：分類正確時(shí)，對(duì)權(quán)向量“賞”這里用“不罰”，即權(quán)向量不變；分類錯(cuò)誤時(shí)，對(duì)權(quán)向量“罰”對(duì)其修改，向正確的方向轉(zhuǎn)換3。3.3 感知器算法的流程及框圖1、確1定樣本：輸入向量P、目標(biāo)向量T。 2、網(wǎng)絡(luò)大?。焊鶕?jù)向量的維數(shù)來(lái)選擇網(wǎng)絡(luò)規(guī)模。 3、初始化：W、b取隨機(jī)值，范圍-1, +1。 4、 網(wǎng)絡(luò)輸出：根據(jù)P、W、b來(lái)計(jì)算網(wǎng)絡(luò)的輸出Y。 5、學(xué)習(xí)偏差：E=T-Y。 6、新的網(wǎng)絡(luò)參數(shù)：W = W + E×PT、 = + E （5）反復(fù)訓(xùn)練，直到達(dá)到目標(biāo)，或達(dá)到最大的訓(xùn)練次數(shù)。圖1 感知器算法流程圖四、 實(shí)驗(yàn)結(jié)果與分析 本次實(shí)驗(yàn)先產(chǎn)生了三組服從正態(tài)分布

5、的樣本，通過(guò)感知器算法畫出了他們的判別函數(shù)如圖2所示：圖2 畫出的判別面得到的判別函數(shù)分別是: d1=47.2296x1-92.9167x2+20.0000 d2=55.4429x1-80.6872 x2-48.0000 d3=-252.8807x1-224.7119x2 -72.0000通過(guò)分析上述實(shí)驗(yàn)結(jié)果，雖然由于感知器算法是倆倆比較，并且是線性分類，所以第三條判別函數(shù)可能會(huì)穿過(guò)第三類樣本，但可以看出判別函數(shù)把三類樣本兩兩分開，達(dá)到了實(shí)驗(yàn)的目的，也掌握了感知器算法的原理。五、 總結(jié) 本文通過(guò)研究基于感知器算法進(jìn)行樣本分類，用MATLAB語(yǔ)言設(shè)計(jì)了程序，結(jié)果表明該系統(tǒng)基本實(shí)現(xiàn)了要求的功能，但

6、系統(tǒng)也存在第三條判別函數(shù)不理想的情況，這也是感知器算法無(wú)法實(shí)驗(yàn)非線性分類的結(jié)果，以后學(xué)習(xí)其他算法后可以改進(jìn)。參考文獻(xiàn) 1夏東盛, 李永濤, 張曉,等. 模式線性可分時(shí)的一種單層感知器算法C/ 中國(guó)計(jì)算機(jī)學(xué)會(huì)第一屆全國(guó)Web信息系統(tǒng)及其應(yīng)用學(xué)術(shù)會(huì)議. 2004:29-31. 2劉建偉, 申芳林, 羅雄麟. 感知器學(xué)習(xí)算法研究J. 計(jì)算機(jī)工程, 2010, 第7期(7):190-192. 3易中凱. 感知器網(wǎng)絡(luò)學(xué)習(xí)算法研究與應(yīng)用D. 北京理工大學(xué), 2001.附錄程序源代碼clear;clc;mu1=1 2;S1=0.25 0;0 0.7 ;data1=mvnrnd(mu1,S1,100);mu2

7、=4 6;S2=0.5 0 ;0 0.45 ;data2=mvnrnd(mu2,S2,100);mu3=-5 5;S3=0.7 0;0 0.4 ;data3=mvnrnd(mu3,S3,100);data=data1;data2;data3;%生成三組服從正態(tài)分布的樣本one=zeros(100,1);one(:,1)=1;X1=data1 one;X2=data2 one;X3=data3 one;%增廣矩陣W1=0,0,0;W2=0,0,0;W3=0,0,0;%初始權(quán)向量while true counter=0; for i=1:100%對(duì)第一組訓(xùn)練樣本迭代 d11=W1*X1(i,:)&

8、#39; d12=W2*X1(i,:)' d13=W3*X1(i,:)' if d11>d12&&d11>d13 counter=counter+1; else W1=W1+2*X1(i,:);W2=W2-2*X1(i,:);W3=W3-2*X1(i,:); end end for i=1:100%對(duì)第二組訓(xùn)練樣本迭代 d21=W1*X2(i,:)' d22=W2*X2(i,:)' d23=W3*X2(i,:)' if d22>d21&&d22>d23 counter=counter+1; else

9、 W1=W1-2*X2(i,:);W2=W2+2*X2(i,:);W3=W3-2*X2(i,:); end end for i=1:100%對(duì)第三組訓(xùn)練樣本迭代 d31=W1*X3(i,:)' d32=W2*X3(i,:)' d33=W3*X3(i,:)' if d33>d31&&d33>d32 counter=counter+1; else W1=W1-2*X3(i,:);W2=W2-2*X3(i,:);W3=W3+2*X3(i,:); end end if counter=300 break endendplot(data(:,1),da

10、ta(:,2),'b.','MarkerSize',6);%繪出三組聚類點(diǎn)hold on;a1=W1(:,1);b1=W1(:,2);c1=W1(:,3);a2=W2(:,1);b2=W2(:,2);c2=W2(:,3);a3=W3(:,1);b3=W3(:,2);c3=W3(:,3);x=linspace(-10,25,1000);y1=-(a1-a3)*x/(b1-b3)-(c1-c3)/(b1-b3);%生成函數(shù)y2=-(a2-a1)*x/(b2-b1)-(c2-c1)/(b2-b1);y3=-(a3-a2)*x/(b3-b2)-(c3-c2)/(b3-b

11、2);hold on;plot(x,y1,'c',x,y2,'r',x,y3,'b')%繪出判決面axis(-10 10 -2 10);hold on; grid on; 7 Too late為時(shí)太晚  The plane was late and detectives were waiting at the airport all morning. They were

12、 expecting a valuable parcel of diamonds from South Africa. A few hours earlier, someone had told the police that thieves would try to steal the diamonds.  When 

13、;the plane arrived, some of the detectives were waiting inside the main building while others were waiting on the airfield. Two men took the parcel off the plane

14、0;and carried it into the Customs House.  While two detectives were keeping guard at the door, two others opened the parcel. To their surprise, the precious parcel w

15、as full of stones and sand!       飛機(jī)誤點(diǎn)了，偵探們?cè)跈C(jī)場(chǎng)等了整整一上午。他們正期待從南非鉆石的貴重包裹。幾個(gè)小時(shí)前，有人告訴警察，小偷想偷鉆石。當(dāng)飛機(jī)到達(dá)時(shí)，一些偵探等候在主樓內(nèi)，另一部分則等在停機(jī)坪。兩個(gè)男人帶著包裹下了飛機(jī)，進(jìn)了海關(guān)。當(dāng)兩個(gè)偵探把住門口，另外兩個(gè)打開包裹。令他們吃驚的是，那珍貴的包裹里面裝的全是石頭和沙子！ The best and the worst最好的和最差的

16、60;Joe Sanders has the most beautiful garden in our town. Nearly everybody enters for 'The Nicest Garden Competition' each year, but Joe wins every time. Bill Fri

17、th's garden is larger than Joe's.  Bill works harder than Joe and grows more flowers and vegetables, but Joe's garden is more interesting. He has made neat

18、60;paths and has built a wooden bridge over a pool. I like gardens too, but I do not like hard work. Every year I enter for the garden competition too, and I always win