基于進化算法的神經(jīng)網(wǎng)絡研究與優(yōu)化
發(fā)布時間:2020-03-26 15:07
【摘要】:隨著智能計算的快速發(fā)展,進化算法與神經(jīng)網(wǎng)絡作為智能計算的重要組成部分已得到越來越普及的應用。其中,以BP神經(jīng)網(wǎng)絡及其改良模型的應用較為普遍。BP神經(jīng)網(wǎng)絡是一個遵循誤差逆向傳播,并訓練的前向神經(jīng)網(wǎng)絡。其采用梯度下降法進行學習,經(jīng)過不停地修正權(quán)值與閾值,達到誤差最小。BP神經(jīng)網(wǎng)絡具有拓撲結(jié)構(gòu)簡單,非線性處理能力及自我學習等特點。盡管BP神經(jīng)網(wǎng)絡具有很多顯著的長處,但是在現(xiàn)實應用中也留有一些缺陷:網(wǎng)絡結(jié)構(gòu)較難確定,網(wǎng)絡訓練參數(shù)較難設定,網(wǎng)絡的權(quán)值較難選取,訓練算法較難選擇,訓練精度較低,易墜入局部極值等。針對BP神經(jīng)網(wǎng)絡存在的以上問題,多種優(yōu)化的方法與調(diào)優(yōu)的模型相繼被提出。其中,采用進化算法結(jié)合BP神經(jīng)網(wǎng)絡來調(diào)優(yōu)性能,已經(jīng)得到越來越多學者們的重視。然而在此類方法中,多數(shù)只采用進化算法結(jié)合逆向傳播算法,而忽視了神經(jīng)網(wǎng)絡本身結(jié)構(gòu)與其算法的優(yōu)化。在本文中,首先在神經(jīng)網(wǎng)絡訓練的基礎上,根據(jù)網(wǎng)絡每次訓練的誤差值自適應選取隱含層節(jié)點個數(shù),從而避免人工設定網(wǎng)絡結(jié)構(gòu)的盲目性。其次,針對進化算法結(jié)合神經(jīng)網(wǎng)絡,其易產(chǎn)生局部最優(yōu)的問題,提出改進的遺傳算法與改進的粒子群優(yōu)化算法。其中,主要包括改進的遺傳算法結(jié)合網(wǎng)絡訓練,并選取最佳訓練參數(shù);及改進的粒子群優(yōu)化算法結(jié)合網(wǎng)絡訓練,并選取最佳的權(quán)值矩陣,從而提高神經(jīng)網(wǎng)絡的訓練精度。最終,基于優(yōu)化的算法結(jié)合BP神經(jīng)網(wǎng)絡構(gòu)建IGAPSONN模型,并將其運用于現(xiàn)實問題中。本文主要工作與創(chuàng)新點如下:(1)針對神經(jīng)網(wǎng)絡的隱含層節(jié)點個數(shù)較難選取的問題,根據(jù)網(wǎng)絡每次訓練的均方誤差值,提出自適應選取網(wǎng)絡隱含層節(jié)點數(shù)的算法。該算法綜合考慮網(wǎng)絡輸入與輸出節(jié)點個數(shù)對隱含層節(jié)點個數(shù)的影響,限定隱含層節(jié)點個數(shù)的范圍,并且自適應選取使網(wǎng)絡誤差最小的隱含層節(jié)點個數(shù),從而避免了人工設定節(jié)點個數(shù)的盲目性。(2)針對神經(jīng)網(wǎng)絡訓練參數(shù)學習率與動量因子難以確定的問題,提出改進的遺傳算法結(jié)合網(wǎng)絡訓練,動態(tài)選取學習率與動量因子的算法。在網(wǎng)絡訓練中,該算法根據(jù)學習率與動量因子的參數(shù)范圍,并設定染色體結(jié)構(gòu)。在進化過程中加入多點交叉與多點變異的操作使每個個體可以得到完全的進化,使網(wǎng)絡訓練參數(shù)動態(tài)被選取,從而避免手動設定參數(shù)的盲目性。(3)針對神經(jīng)網(wǎng)絡權(quán)值選取不精確的問題,提出改進的粒子群優(yōu)化算法結(jié)合網(wǎng)絡訓練,并動態(tài)選取權(quán)值矩陣的算法。在網(wǎng)絡訓練中,該算法提出動態(tài)慣性權(quán)重與參數(shù)制約使參數(shù)自適應選取,平衡算法的局部搜索性能與全局搜索性能。同時,該算法結(jié)合傳統(tǒng)的差分進化算法使粒子進行變異,并且提出在動態(tài)鄰域內(nèi)粒子進行交叉操作,增加粒子間的交互,減少聚集,有利于粒子跳出局部最優(yōu),并提升粒子多樣性,動態(tài)選取精確的權(quán)值,從而避免神經(jīng)網(wǎng)絡訓練精度低。(4)本文基于隱含層節(jié)點數(shù)自適應選取算法,學習率與動量因子動態(tài)選取算法,改進的粒子群優(yōu)化算法,以上結(jié)合BP神經(jīng)網(wǎng)絡構(gòu)建IGAPSONN模型,并運用該模型于實際問題中。相比當前通用的神經(jīng)網(wǎng)絡模型,仿真實驗分別從模型的訓練精度,正確率及算法性能三方面驗證了所提模型的精確性與有效性。
【學位授予單位】:安徽大學
【學位級別】:碩士
【學位授予年份】:2018
【分類號】:TP183
【學位授予單位】:安徽大學
【學位級別】:碩士
【學位授予年份】:2018
【分類號】:TP183
【相似文獻】
相關期刊論文 前10條
1 蔣進;;基于神經(jīng)網(wǎng)絡的風功率組合預測[J];工程技術(shù)研究;2017年10期
2 余z緩,
本文編號:2601606
本文鏈接:http://www.sikaile.net/kejilunwen/sousuoyinqinglunwen/2601606.html
最近更新
教材專著