


下載本文檔
版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)
文檔簡介
-20-半監(jiān)督極限學(xué)習(xí)機研究的國內(nèi)外文獻綜述2007年,金輝等人首次將ELM的監(jiān)督、半監(jiān)督及無監(jiān)督學(xué)習(xí)統(tǒng)一到一起,提出半監(jiān)督極限學(xué)習(xí)機,并證實了SSELM的學(xué)習(xí)能力。2012年,Guang-BinHuang等人提出可以進一步簡化最小二乘支持向量機(LS-SVM)和近端支持向量機(proximalsupportvectormachine,PSVM),構(gòu)建LS-SVM、PSVM和其他極限學(xué)習(xí)機(Extremelearningmachine,ELM)正則化算法的統(tǒng)一學(xué)習(xí)框架。“廣義的”單隱層前饋網(wǎng)絡(luò)SVM、多項式網(wǎng)絡(luò)和傳統(tǒng)的前饋神經(jīng)網(wǎng)絡(luò)等。ELM適用于這些前饋網(wǎng)絡(luò)同時不需要調(diào)整隱層。2014年GaoHuang等人表明極限學(xué)習(xí)機已被證明是一種高效的模式分類和回歸學(xué)習(xí)機制。在流形正則化的基礎(chǔ)上,對半監(jiān)督任務(wù)和非監(jiān)督任務(wù)進行了ELMs的擴展,極大地擴展了ELMs的適用性。他們還表示,所有有監(jiān)督、半監(jiān)督和無監(jiān)督的ELM實際上都可以放在一個統(tǒng)一的框架中。這為理解隨機特征映射的機理提供了新的視角,隨機特征映射是ELM理論中的關(guān)鍵概念。2015年XiaozhuoLuo等人表明一個稀疏半監(jiān)督極端學(xué)習(xí)機(S3ELM)通過聯(lián)合稀疏正則化分類,它可以自動刪除模型結(jié)構(gòu)通過聯(lián)合稀疏正則化技術(shù),實現(xiàn)更準(zhǔn)確,高效和健壯的分類,當(dāng)只有少量的標(biāo)記訓(xùn)練樣本是可用的,S3ELM具有良好的計算效果,優(yōu)于同類算法。2016年HongpingFu等人提出了一種自適應(yīng)半監(jiān)督極限學(xué)習(xí)機(ASELM)來解決解決數(shù)據(jù)不平衡的問題,ASELM利用了數(shù)據(jù)不平衡對識別性能的不同影響。引入無標(biāo)記數(shù)據(jù),建立了基于高斯模型的有標(biāo)記數(shù)據(jù)與無標(biāo)記數(shù)據(jù)的比例模型,并應(yīng)用該模型自動生成對無標(biāo)記數(shù)據(jù)的約束。2018年JieYang等人提出來一種解決半監(jiān)督學(xué)習(xí)中標(biāo)記數(shù)據(jù)中存在的異常值的有效方法。此方法是使用非凸損失函數(shù),該函數(shù)對異常值進行不斷的懲罰,以避免它們的負面影響。這種方法不僅繼承了半監(jiān)督學(xué)習(xí)的優(yōu)點,而且具有魯棒性的優(yōu)點。2018年AdnanOMAbuassba等人引入了一種多核半監(jiān)督ELM。它更靈活地處理來自不同來源的離散數(shù)據(jù)。它匹配來自不同來源的不同信息,并顯示數(shù)據(jù)之間的差異,優(yōu)化了ELM結(jié)構(gòu)參數(shù)和核組合權(quán)值。2018年ZipingHe等人提出采用布谷鳥搜索算法對半監(jiān)督支持向量機(S3VM)進行優(yōu)化,提高了S3VM的模型性能。由于布谷鳥搜索算法局限于局部最優(yōu)問題,提出了一種基于混沌鯰魚效應(yīng)優(yōu)化的布谷鳥搜索算法。2019年JinXie等人提出一種基于極限學(xué)習(xí)機(ELM)的分布式半監(jiān)督學(xué)習(xí)(SSL)算法,稱為分布式SSELM(DSS-ELM)算法。它是一種將SSELM算法與零梯度和分布式優(yōu)化策略相結(jié)合的算法。基于流形正則化(MR)框架的SSELM算法被用于逼近通信網(wǎng)絡(luò)中每個節(jié)點上的樣本映射。然后,使用ZGS策略訓(xùn)練與SSELM算法得到相對應(yīng)的單層前饋神經(jīng)網(wǎng)絡(luò)的全局最優(yōu)系數(shù)[14]。2019年李建榮等人提出使用了無標(biāo)簽數(shù)據(jù)的半監(jiān)督方法可以在時間和成本上提高模型開發(fā)的效率[15]。2019徐睿等人討論并分析了自ELM提出以來的主要學(xué)習(xí)算法和模型,包括提出的原因、核心思想、求解方法、各自的優(yōu)缺點以及相關(guān)問題。2020年JieYang等人提出了一種基于魯棒正則化相關(guān)準(zhǔn)則的SSELM(RC-SSELM)算法。此算法采用不動點迭代的方法對RCSSELM的輸出權(quán)矩陣進行了優(yōu)化。同時他們在半二次優(yōu)化技術(shù)基礎(chǔ)上,對所提RC-SSELM算法進行了收斂性分析[17]。2020顧競豪和王曉丹提出一種新的代價敏感極限學(xué)習(xí)機。這種算法首先利用主成分分析法對數(shù)據(jù)進行降維,以此來確定主要特征;然后用數(shù)據(jù)進行預(yù)處理后的值訓(xùn)練極限學(xué)習(xí)機,目標(biāo)是實現(xiàn)最小期望代價,從而實現(xiàn)降低入侵檢測的檢測時間,降低檢測誤報率,提高檢測準(zhǔn)確率的目的[18]。2020年陳劍挺、葉貞成、程輝提出了一種基于p階Welsch損失的魯棒極限學(xué)習(xí)機來解決極限學(xué)習(xí)機異常值敏感的問題,這種方法在魯棒性、穩(wěn)定性和訓(xùn)練時間上都具有很好的性能。2020年VanEngelenJE和HoosHH對半監(jiān)督學(xué)習(xí)方法進行了最新概述,并提出了一種新的半監(jiān)督分類算法,同時闡明了將無標(biāo)簽數(shù)據(jù)納入訓(xùn)練過程的不同概念和方法。2020年ZhangJ等人建立了一種結(jié)合三種混合策略的動態(tài)多群差分學(xué)習(xí)量子鳥群算法。首先,建立動態(tài)多群鳥群算法,并采用差分進化策略增強覓食行為運動的隨機性,使鳥群算法具有更強的全局探索能力。其次,將量子行為引入到鳥群算法中,以提高搜索解空間的效率。2020年牛春彥等人提出了一種新的極限學(xué)習(xí)機算法。這種算法是在云量子花朵授粉的基礎(chǔ)上實現(xiàn)的,不僅能增強花朵授粉算法的全局搜索能力,使粒子能在不同狀態(tài)下進行尋優(yōu),而且提高極限學(xué)習(xí)機的識別精度和效率[22]。2020年ShudongLiu等人提出了一種基于半監(jiān)督極限學(xué)習(xí)機的異常檢測算法,提出了一種結(jié)合半監(jiān)督極限學(xué)習(xí)機和互信息準(zhǔn)則的動態(tài)集成算法,同時說明了SSELM作為基分類器,具有結(jié)構(gòu)簡單、訓(xùn)練方便、泛化性好等特點。2020年,JieYang等人探討了一種基于魯棒最大混合相關(guān)準(zhǔn)則(MMCC)優(yōu)化方案的半監(jiān)督ELM數(shù)據(jù)學(xué)習(xí)算法。此算法是將核中心變的廣義相關(guān)準(zhǔn)則核函數(shù)應(yīng)用到MMCC中,得到了新半監(jiān)督學(xué)習(xí)算法,簡稱MC-SSELMvc。2020年王紅星文中提出了一種新型半監(jiān)督極限學(xué)習(xí)機HyLap-S3ELM,用于防震錘銹蝕缺陷檢測,減小了對運算資源的依賴性,提升半監(jiān)督分類的精度[25]。參考文獻[1]夏克文,沈鈞毅,李昌彪.一種基于計算智能的油氣層識別方法[J].計算機工程與應(yīng)用,2005,41(5):190-192.[2]石平洋,夏克文,楊瑞霞,張志偉.基于QPSO的LS-SVM油層識別[J].河北工業(yè)大學(xué)學(xué)報,2013,42(04):4-8.[3]賀紫平,夏克文,潘用科,王莉.分支定界半監(jiān)督SVM在油層識別中的應(yīng)用[J].重慶郵電大學(xué)學(xué)報(自然科學(xué)版),2019,31(04):563-570.[4]ChapelleO,ScholkopfB,ZienA.Semi-supervisedlearning[M].London:TheMITPress,2006.[5]ZhuXJ.Semi-supervisedlearningliteraturesurvey[R].1530,Madison:UniversityofWisconsin-Madison,2008.[6]金輝,吳樂林,陳慧巖等.結(jié)構(gòu)化道路車道線識別的一種改進算法[J].北京理工大學(xué)學(xué)報,2007,27(06):501-505.[7]HuangGB,ZhouH,DingX,etal.ExtremeLearningMachineforRegressionandMulticlassClassification[J].IEEETransactionsonSystemsMan&CyberneticsPartB,2012,42(2):513-529.[8]HuangG,SongSJ,GuptaJND,etal.Semi-SupervisedandUnsupervisedExtremeLearningMachines[J].IEEETransactionsonCybernetics,2014,44(12):2405-2417.[9]LuoXZ,LiuF,YangSY,etal.JointsparseregularizationbasedSparseSemi-SupervisedExtremeLearningMachine(S3ELM)forclassification[J].Knowledge-BasedSystems,2015,73:149-160.[10]FuHP,NiuZD,ZhangCX,etal.ASELM:Adaptivesemi-supervisedELMwithapplicationinquestionsubjectivityidentification[J].Neurocomputing,2016,207:599-609.[11]PeiHM,WangKNLinQ,etal.Robustsemi-supervisedextremelearningmachine[J].Knowledge-BasedSystems,2018,159:203-220.[12]AbuassbaAO,DezhengZ,MahmoodZ.Semi-supervisedMulti-kernelExtremeLearningMachine[J].ProcediaComputerence,2018,129:305-311.[13]HeZ,XiaK,NiuW,etal.SemisupervisedSVMBasedonCuckooSearchAlgorithmandItsApplication[J].MathematicalProblemsinEngineering,2018,2018(5):1-13.[14]XieJ,LiuSY,DaiH.Manifoldregularizationbaseddistributedsemi-supervisedlearningalgorithmusingextremelearningmachineovertime-varyingnetwork[J].Neurocomputing,2019,355:24-34.[15]李建榮,張建華,夏家駿,陳朋.基于半監(jiān)督極限學(xué)習(xí)機的精神負荷分類[J].華東理工大學(xué)學(xué)報(自然科學(xué)版),2019,45(01):110-118.[16]徐睿,梁循,齊金山,李志宇,張樹森.極限學(xué)習(xí)機前沿進展與趨勢[J].計算機學(xué)報,2019,42(07):1640-1670.[17]YangJ,CaoJW,WangTL,etal.Regularizedcorrentropycriterionbasedsemi-supervisedELM[J].NeuralNetworks,2020,122:117-129.[18]顧競豪,王曉丹.基于主成分分析
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 2025婚介服務(wù)合同
- 臺球助教基礎(chǔ)知識培訓(xùn)課件
- 臺灣清華投資學(xué)課件
- 2025年農(nóng)業(yè)租賃合同協(xié)議模板
- 2025年家用空調(diào)安裝服務(wù)合同模板
- 2025關(guān)于計算機租賃合同的模板
- 2025-2030中國慢病管理數(shù)字化平臺醫(yī)保接入條件與控費效果評估
- 2025年電梯安全管理人員摸底考試題庫以及答案
- 2025年幼兒衛(wèi)生保健試卷及答案
- 2025關(guān)于版權(quán)合作出版合同范本
- 超市項目可行性報告
- 婚姻家庭法律講座課件
- 二零二五年度房地產(chǎn)項目履約擔(dān)保管理規(guī)范合同4篇
- 2025年江蘇省鳳凰出版?zhèn)髅郊瘓F招聘筆試參考題庫含答案解析
- 財務(wù)共享中心下的業(yè)財融合策略
- 《氧指數(shù)測定儀》課件
- 通信與廣電工程管理與實務(wù)一級建造師考試新考綱題庫解析(2025年)
- 全國各省市火車站名稱
- GB/T 2982-2024工業(yè)車輛充氣輪胎規(guī)格、尺寸、氣壓與負荷
- 專業(yè)洗鞋培訓(xùn)
- 游戲開發(fā)流程及測試規(guī)范手冊
評論
0/150
提交評論