基于改進(jìn)粒子群深度神經(jīng)網(wǎng)絡(luò)的頻率域航空電磁反演
【文章頁數(shù)】:12 頁
【部分圖文】:
圖1 頻率域航空電磁層狀介質(zhì)模型示意圖
深度神經(jīng)網(wǎng)絡(luò)(deepneuralnetwork,DNN),是近年興起的一種學(xué)習(xí)能力極強(qiáng)的機(jī)器學(xué)習(xí)方法,在語音識(shí)別、圖像識(shí)別及自然語言處理等領(lǐng)域應(yīng)用廣泛。它起源于傳統(tǒng)的人工神經(jīng)網(wǎng)絡(luò),具備更深的網(wǎng)絡(luò)深度,能夠融合各種非線性特征,具有強(qiáng)大的非線性學(xué)習(xí)和擬合能力[27]。DNN由多....
圖2 深度神經(jīng)網(wǎng)絡(luò)示意圖
式中:di是訓(xùn)練數(shù)據(jù)的正確輸出;M是節(jié)點(diǎn)的個(gè)數(shù)。式(11)為均方誤差函數(shù),式(12)為交叉熵函數(shù)。由于DNN具有較多的隱含層,訓(xùn)練難度較大,為使代價(jià)函數(shù)達(dá)到最小值而避免陷入局部極值,常用隨機(jī)梯度下降和Adam等優(yōu)化方法[28]。本文采用6層全鏈接DNN模型,代價(jià)函數(shù)選擇均方誤差函....
圖3 慣性權(quán)重迭代曲線
慣性權(quán)重迭代曲線如圖3所示,由圖3可見:當(dāng)?shù)鷦傞_始時(shí),粒子的慣性權(quán)重取值較大,粒子將以較大的飛行速度尋找到全局最優(yōu)解的范圍,保證粒子群優(yōu)化算法的全局搜索能力;在搜索的后期慣性權(quán)重取值較小,粒子的飛行速度較小,進(jìn)而可以對(duì)最優(yōu)解領(lǐng)域范圍進(jìn)行精確搜索,保證算法的局部搜索能力。同時(shí),在....
圖4 改進(jìn)粒子群優(yōu)化深度神經(jīng)網(wǎng)絡(luò)流程圖
在求解復(fù)雜的非線性問題時(shí),深度神經(jīng)網(wǎng)絡(luò)在設(shè)置初始權(quán)值時(shí)依賴于對(duì)樣本空間反復(fù)試驗(yàn),易產(chǎn)生網(wǎng)絡(luò)不穩(wěn)、收斂速度慢以及陷入局部最優(yōu)等問題。而改進(jìn)的粒子群優(yōu)化算法具有良好的全局尋優(yōu)能力,將其與深度神經(jīng)網(wǎng)絡(luò)結(jié)合,理論上可以尋找到求解問題的全局最優(yōu)解。改進(jìn)粒子群優(yōu)化算法優(yōu)化深度神經(jīng)網(wǎng)絡(luò)基本流程....
本文編號(hào):4043501
本文鏈接:http://www.sikaile.net/projectlw/dqwllw/4043501.html