發(fā)布時間：2018-05-31 16:51

  本文選題：極速學習機 + 半監(jiān)督學習　； 參考：《軟件學報》2017年10期

【摘要】：極速學習機不僅僅是有效的分類器,還能應用到半監(jiān)督學習中.但是,半監(jiān)督極速學習機和拉普拉斯光滑孿生支持向量機一樣,是一種淺層學習算法.深度學習實現(xiàn)了復雜函數(shù)的逼近并緩解了以前多層神經網(wǎng)絡算法的局部最小性問題,目前在機器學習領域中引起了廣泛的關注.多層極速學習機(ML-ELM)是根據(jù)深度學習和極速學習機的思想提出的算法,通過堆疊極速學習機-自動編碼器算法(ELM-AE)構建多層神經網(wǎng)絡模型,不僅實現(xiàn)了復雜函數(shù)的逼近,并且訓練過程中無需迭代,學習效率高.把流形正則化框架引入ML-ELM中,提出拉普拉斯多層極速學習機算法(Lap-ML-ELM).然而,ELM-AE不能很好地解決過擬合問題.針對這一問題,把權值不確定引入ELM-AE中,提出權值不確定極速學習機-自動編碼器算法(WU-ELM-AE),可學習到更為魯棒的特征.最后,在前面兩種算法的基礎上提出權值不確定拉普拉斯多層極速學習機算法(WUL-ML-ELM),它堆疊WU-ELM-AE構建深度模型,并用流形正則化框架求取輸出權值.該算法在分類精度上有明顯提高并且不需花費太多的時間.實驗結果表明,Lap-ML-ELM與WUL-ML-ELM都是有效的半監(jiān)督學習算法.
[Abstract]:Extreme learning machine is not only an effective classifier, but also can be applied to semi-supervised learning. However, semi-supervised extreme learning machine is a shallow learning algorithm like Laplacian smooth twin support vector machine. Depth learning realizes the approximation of complex functions and alleviates the problem of local minimization of previous multilayer neural network algorithms, which has attracted wide attention in the field of machine learning. ML-ELM) is an algorithm based on the idea of deep learning and extreme learning machine. The multilayer neural network model is constructed by stacking pole learning machine and automatic encoder algorithm. And the training process does not need iteration, learning efficiency is high. The manifold regularization framework is introduced into ML-ELM, and a Laplacian multilayer extreme learning machine algorithm is proposed. However, ELM-AE can not solve the problem of fitting well. In order to solve this problem, the weight uncertainty is introduced into ELM-AE, and the WU-ELM-AEE algorithm is proposed, which can learn more robust features. Finally, on the basis of the above two algorithms, a Laplace multilayer learning machine with uncertain weights is proposed, which stack WU-ELM-AE to construct the depth model, and use manifold regularization framework to obtain the output weights. The algorithm improves the classification accuracy obviously and does not take too much time. The experimental results show that both Lap-ML-ELM and WUL-ML-ELM are effective semi-supervised learning algorithms.
【作者單位】： 中國礦業(yè)大學計算機科學與技術學院;中國科學院計算技術研究所智能信息處理重點實驗室;
【基金】：國家自然科學基金(61672522,61379101) 國家重點基礎研究發(fā)展計劃(973)(2013CB329502)~~
【分類號】：TP181

【相似文獻】

相關期刊論文 前10條

1 劉蓉;李紅艷;;半監(jiān)督學習研究與應用[J];軟件導刊;2010年08期

2 陳武錦;;半監(jiān)督學習研究綜述[J];電腦知識與技術;2011年16期

3 梁吉業(yè);高嘉偉;常瑜;;半監(jiān)督學習研究進展[J];山西大學學報(自然科學版);2009年04期

4 唐曉亮;韓敏;;一種基于極端學習機的半監(jiān)督學習方法[J];大連理工大學學報;2010年05期

5 李歡;;半監(jiān)督學習及其在數(shù)據(jù)挖掘中的應用[J];電腦知識與技術;2010年27期

6 崔鵬;;一種用于半監(jiān)督學習的核優(yōu)化設計[J];軟件工程師;2013年09期

7 王艷華;楊志豪;李彥鵬;唐利娟;林鴻飛;;基于監(jiān)督學習和半監(jiān)督學習的蛋白質關系抽取[J];江西師范大學學報(自然科學版);2013年04期

8 梅松青;;基于自適應圖的半監(jiān)督學習方法[J];計算機系統(tǒng)應用;2014年02期

9 李燕萍;唐振民;丁輝;張燕;;半監(jiān)督學習機制下的說話人辨認算法[J];計算機工程;2009年14期

10 郭利強;;網(wǎng)絡博客空間中基于半監(jiān)督學習的垃圾評論檢測[J];圖書情報工作;2012年04期

相關會議論文 前8條

1 柳斌;李之棠;涂浩;;基于半監(jiān)督學習的應用流分類方法[A];2010年全國開放式分布與并行計算機學術會議論文集[C];2010年

2 葛薦;馬廷淮;;基于集成算法的半監(jiān)督學習研究[A];第29屆中國數(shù)據(jù)庫學術會議論文集（B輯）（NDBC2012）[C];2012年

3 趙玲玲;周水生;王雪巖;;基于集成算法的半監(jiān)督學習[A];第十四屆全國信號處理學術年會(CCSP-2009)論文集[C];2009年

4 谷方明;劉大有;王新穎;;基于半監(jiān)督學習的加權支持向量域數(shù)據(jù)描述方法[A];NDBC2010第27屆中國數(shù)據(jù)庫學術會議論文集(B輯)[C];2010年

5 馮瑞;宋春林;;一種基于局部學習的復雜系統(tǒng)建模方法[A];2007中國控制與決策學術年會論文集[C];2007年

6 陳耀東;王挺;陳火旺;;半監(jiān)督學習和主動學習相結合的淺層語義分析[A];第三屆全國信息檢索與內容安全學術會議論文集[C];2007年

7 楊源;馬云龍;林鴻飛;;基于權重標準化SimRank與半監(jiān)督學習的產品屬性歸類[A];中國計算語言學研究前沿進展（2009-2011）[C];2011年

8 王倩影;馮國燦;湯鑫;;δ-距離及其在半監(jiān)督增強中的應用[A];第十五屆全國圖象圖形學學術會議論文集[C];2010年

相關博士學位論文 前10條

1 孫博良;在線半監(jiān)督學習理論、算法與應用研究[D];國防科學技術大學;2014年

2 徐雪;樣本的幾何信息在半監(jiān)督學習中的應用研究[D];中國科學技術大學;2010年

3 孔怡青;半監(jiān)督學習及其應用研究[D];江南大學;2009年

4 蘭遠東;基于圖的半監(jiān)督學習理論、算法及應用研究[D];華南理工大學;2012年

5 唐曉亮;基于神經網(wǎng)絡的半監(jiān)督學習方法研究[D];大連理工大學;2009年

6 余國先;高維數(shù)據(jù)上的半監(jiān)督學習研究[D];華南理工大學;2013年

7 潘俊;基于圖的半監(jiān)督學習及其應用研究[D];浙江大學;2011年

8 王嬌;多視圖的半監(jiān)督學習研究[D];北京交通大學;2010年

9 桂杰;基于圖的半監(jiān)督學習和維數(shù)約簡方法及其應用研究[D];中國科學技術大學;2010年

10 薛貞霞;支持向量機及半監(jiān)督學習中若干問題的研究[D];西安電子科技大學;2009年

相關碩士學位論文 前10條

1 李南;基于屬性偏序結構理論的半監(jiān)督學習方法研究[D];燕山大學;2015年

2 杜俊;半監(jiān)督學習及其在社交媒體分析中的應用[D];華北電力大學;2015年

3 曹琳琳;基于低秩描述的自適應半監(jiān)督學習[D];西安電子科技大學;2015年

4 張甲佳;基于半監(jiān)督學習的無線傳感器網(wǎng)絡節(jié)點定位問題研究[D];西南交通大學;2017年

5 朱東陽;基于主動學習和半監(jiān)督學習的工業(yè)故障分類研究及應用[D];浙江大學;2017年

6 劉偉濤;半監(jiān)督學習方法及應用研究[D];山東大學;2011年

7 陳新勇;基于核策略的半監(jiān)督學習方法研究[D];河北大學;2010年

8 馮元佶;基于圖的半監(jiān)督學習的改進研究[D];湘潭大學;2010年

9 黃明明;半監(jiān)督學習方法研究及在警用平臺中的應用[D];大連理工大學;2010年

10 易星;半監(jiān)督學習若干問題的研究[D];清華大學;2004年

，

本文編號：1960591