基于群智能優(yōu)化的核極限學(xué)習(xí)機(jī)模型選擇方法研究及應(yīng)用
發(fā)布時(shí)間:2020-12-31 17:36
單隱層前饋神經(jīng)網(wǎng)絡(luò)(SLFN)以其良好的學(xué)習(xí)能力在諸多領(lǐng)域中得到了廣泛的應(yīng)用,然而SLFN需要權(quán)值和閾值的迭代修正,因此SLFN固有的訓(xùn)練速度慢、泛化性能差等一些缺點(diǎn),成為限制其發(fā)展應(yīng)用的主要瓶頸。極限學(xué)習(xí)機(jī)(ELM)算法是一種較新的SLFN,ELM隨機(jī)產(chǎn)生輸入層與隱含層的連接權(quán)值以及隱含層神經(jīng)元的閾值,該算法具有學(xué)習(xí)速度快、泛化性能好等優(yōu)點(diǎn),核極限學(xué)習(xí)機(jī)(KELM)是將核函數(shù)引入極限學(xué)習(xí)機(jī)中,是一種比常規(guī)ELM模型魯棒性更強(qiáng)、泛化性能更好的決策模型。然而KELM在實(shí)際應(yīng)用中,其性能受到模型中的重要參數(shù)所影響。本文對(duì)KELM的模型選擇問(wèn)題,即核參數(shù)優(yōu)化和特征選擇等問(wèn)題展開(kāi)研究,提出了基于以群智能優(yōu)化算法為基礎(chǔ)的KELM模型選擇方法及其在金融破產(chǎn)預(yù)測(cè)與疾病智能診斷中的應(yīng)用。群智能算法是借鑒自然界中的生物的群體獵食行為抽象出的計(jì)算方法。灰狼優(yōu)化算法(GWO)、飛蛾優(yōu)化算法(MFO)和鯨魚(yú)優(yōu)化算法(WOA)作為新的智能優(yōu)化方法,因具有較強(qiáng)的全局搜索能力,受到科學(xué)研究者和工程技術(shù)人員的廣泛關(guān)注。為了進(jìn)一步提升群智能算法在KELM模型選擇方面的能力,本文特此提出了基于反向?qū)W習(xí)的GWO算法、混沌M...
【文章來(lái)源】:溫州大學(xué)浙江省
【文章頁(yè)數(shù)】:111 頁(yè)
【學(xué)位級(jí)別】:碩士
【部分圖文】:
單層前饋神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖
梯度下降算法被用于該類型網(wǎng)絡(luò)的構(gòu)建學(xué)習(xí)中[51],但是學(xué)習(xí)過(guò)程緩慢、極易陷入到局部最小值的問(wèn)題,前饋神經(jīng)網(wǎng)-2。圖 2-1 單層前饋神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖Fig. 2-1 Single layer feedforward neural network structure diagram
溫州大學(xué)碩士學(xué)位論文與傳統(tǒng)的前饋神經(jīng)網(wǎng)絡(luò)不同,新加坡南洋理工大學(xué)教授黃廣斌等人[8]提出限學(xué)習(xí)機(jī)(Extreme Learning Machine, ELM)的 SLFNs,ELM 學(xué)習(xí)速度較傳學(xué)習(xí)算法,有大幅度的提高,且具有更好的泛化能力,通過(guò)證明該算法在隱神經(jīng)元個(gè)數(shù)與訓(xùn)練樣本數(shù)量相等時(shí)可以零誤差逼近訓(xùn)練樣本,且當(dāng)隱藏神經(jīng)數(shù)小于訓(xùn)練樣本數(shù)量時(shí) ELM 的訓(xùn)練誤差可以逼近一個(gè)任意大于 0 的值。EL習(xí)算法的隱藏節(jié)點(diǎn)類似神經(jīng)元[52, 53]。ELM 結(jié)構(gòu)形式如圖 2-3:
【參考文獻(xiàn)】:
期刊論文
[1]Spectral-spatial classification for hyperspectral imagery: a novel combination method based on affinity scoring[J]. Zhao CHEN,Bin WANG. Science China(Information Sciences). 2016(10)
[2]粒子群優(yōu)化算法求解旅行商問(wèn)題[J]. 黃嵐,王康平,周春光,龐巍,董龍江,彭利. 吉林大學(xué)學(xué)報(bào)(理學(xué)版). 2003(04)
本文編號(hào):2950030
【文章來(lái)源】:溫州大學(xué)浙江省
【文章頁(yè)數(shù)】:111 頁(yè)
【學(xué)位級(jí)別】:碩士
【部分圖文】:
單層前饋神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖
梯度下降算法被用于該類型網(wǎng)絡(luò)的構(gòu)建學(xué)習(xí)中[51],但是學(xué)習(xí)過(guò)程緩慢、極易陷入到局部最小值的問(wèn)題,前饋神經(jīng)網(wǎng)-2。圖 2-1 單層前饋神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖Fig. 2-1 Single layer feedforward neural network structure diagram
溫州大學(xué)碩士學(xué)位論文與傳統(tǒng)的前饋神經(jīng)網(wǎng)絡(luò)不同,新加坡南洋理工大學(xué)教授黃廣斌等人[8]提出限學(xué)習(xí)機(jī)(Extreme Learning Machine, ELM)的 SLFNs,ELM 學(xué)習(xí)速度較傳學(xué)習(xí)算法,有大幅度的提高,且具有更好的泛化能力,通過(guò)證明該算法在隱神經(jīng)元個(gè)數(shù)與訓(xùn)練樣本數(shù)量相等時(shí)可以零誤差逼近訓(xùn)練樣本,且當(dāng)隱藏神經(jīng)數(shù)小于訓(xùn)練樣本數(shù)量時(shí) ELM 的訓(xùn)練誤差可以逼近一個(gè)任意大于 0 的值。EL習(xí)算法的隱藏節(jié)點(diǎn)類似神經(jīng)元[52, 53]。ELM 結(jié)構(gòu)形式如圖 2-3:
【參考文獻(xiàn)】:
期刊論文
[1]Spectral-spatial classification for hyperspectral imagery: a novel combination method based on affinity scoring[J]. Zhao CHEN,Bin WANG. Science China(Information Sciences). 2016(10)
[2]粒子群優(yōu)化算法求解旅行商問(wèn)題[J]. 黃嵐,王康平,周春光,龐巍,董龍江,彭利. 吉林大學(xué)學(xué)報(bào)(理學(xué)版). 2003(04)
本文編號(hào):2950030
本文鏈接:http://www.sikaile.net/kejilunwen/sousuoyinqinglunwen/2950030.html
最近更新
教材專著