1基于改進ResNet的紙幣識別方法分析概述基于改進ResNet的紙幣識別方法分析概述 1 1 1 1 21.3訓(xùn)練ResNet網(wǎng)絡(luò) 2 3 41.3.3參數(shù)改進 5 6 8前一章介紹了原始ResNet網(wǎng)絡(luò)的理論和方法，并詳細介紹了本文所用的ResNet18方法。本章將介紹具體的實現(xiàn)和對ResNet18改進。本節(jié)將分為兩大部分，首先介紹本文所使用的圖像數(shù)據(jù)集以及對數(shù)據(jù)集的預(yù)處理，然后介紹模型的具體訓(xùn)練方法和本文對該模型的優(yōu)化改進部分。1.2數(shù)據(jù)集預(yù)處理本次實驗采用從網(wǎng)上收集到的共近1000張圖片，通過說明文件中的圖像路徑讀取出來。首先，為每張圖片生成訓(xùn)練數(shù)據(jù)路徑并存儲為CSV文件。Python中的Pandas提供了許多功能和方法，使我們可以快速、輕松地處理數(shù)據(jù)，能高效地處理大型數(shù)據(jù)集。本實驗通過pandas數(shù)據(jù)分析模塊將路徑信息從文件中讀2取出來并處理成字符串列表。同時為了保證模型可靠性，將樣本順序隨機進行打亂。在訓(xùn)練網(wǎng)絡(luò)時，通過opencv模塊讀取將處理好的路徑信息出來構(gòu)成帶有維度信息的圖像數(shù)據(jù)。1.2.3數(shù)據(jù)增強由于ResNet18屬于深度神經(jīng)網(wǎng)絡(luò)，因此為了加快神經(jīng)網(wǎng)絡(luò)訓(xùn)練速度和提升分類精度，需要對數(shù)據(jù)進行歸一化處理。同時又因為數(shù)據(jù)集規(guī)模較小，而訓(xùn)練又需要大量的數(shù)據(jù)，所以需要數(shù)據(jù)增強。本文使用的是transforms數(shù)據(jù)增強，transforms并不是直接擴充樣本量，而是各種變換以一定概率直接作用在原圖片上，沒有生成新樣本，只不過在一次次迭代過程中，各種變換隨機發(fā)生，從而導(dǎo)致每次Epoch讀進來的數(shù)據(jù)都是不一樣的，從大數(shù)定理的角度相當(dāng)于擴充了樣本量。1.3訓(xùn)練ResNet網(wǎng)絡(luò)本次實驗選取了50張圖片及其對應(yīng)標(biāo)簽作為原始訓(xùn)練圖像?？紤]到硬件有限、網(wǎng)絡(luò)復(fù)雜性等問題，前期的大量實驗選取了50epochs進行訓(xùn)練。初始設(shè)定learning_rate=0.001,batch_size=2,訓(xùn)練的結(jié)果如下圖1.1所示，可以明顯看出隨著訓(xùn)練輪數(shù)增加，準(zhǔn)確率逐步上升，但比較緩慢，最終準(zhǔn)確率到達約51.25%。接下來從各個方面對模型進行優(yōu)化改進來提高識別準(zhǔn)確率。3降為例，評價不同學(xué)習(xí)率對代價函數(shù)的收斂過程所產(chǎn)生的影響，假設(shè)代價函數(shù)公式中α為學(xué)習(xí)率，若學(xué)習(xí)率設(shè)置太小的時候，會使收斂過程如圖1.2,需4該使用較小學(xué)習(xí)率降低收斂速率。因此本文引入指數(shù)衰減學(xué)習(xí)率來控制收斂效其中epoch_num是當(dāng)前輪的迭代次數(shù)，第二種方法會引入超參數(shù)k。引入指數(shù)衰減學(xué)習(xí)率，同時將初始學(xué)習(xí)率設(shè)置為0.1,訓(xùn)練后發(fā)現(xiàn)準(zhǔn)確率提升更快。最高準(zhǔn)確率從51.25%到了66.25%,相比初始固定0.001的學(xué)習(xí)率，提高了近15%,其中y是最終預(yù)測結(jié)果y;表示實際值，交叉熵更清晰表現(xiàn)了模型與理想模5首先交叉熵優(yōu)于Dice系數(shù)的地方在于梯度較好，當(dāng)p和t都很小時，對于在使用指數(shù)衰減的條件下，使用交叉熵訓(xùn)練模型得到的損失曲線如圖1.5所示，可見損失下降比較小，而圖1.4使用Dice系數(shù)的效果則要相對較好，準(zhǔn)1.3.3參數(shù)改進使準(zhǔn)確率進一步提升。具體調(diào)整為：指數(shù)衰減初始學(xué)習(xí)率調(diào)整為0.01,并設(shè)置學(xué)習(xí)率衰減率為0.85;將權(quán)值w以正態(tài)分布的方式初始化并舍棄大于平均值兩個6圖1.6參數(shù)修改后的準(zhǔn)確率曲線1.3.4網(wǎng)絡(luò)結(jié)構(gòu)調(diào)整及泛化控制和1×1卷積，其中1x1層負責(zé)減少和增加(恢復(fù))尺寸，使3x3層成為輸入/+++的過濾器數(shù)。7改進后的Bottleneck使用1×1的卷積層，從而大大減小了計算量，并減小得到的損失曲線如圖1.9所示，可見損失下降比較快。如下圖1.10所示，最高