本文關(guān)鍵詞：深度學(xué)習(xí)在回歸預(yù)測中的研究及應(yīng)用　出處：《山東農(nóng)業(yè)大學(xué)》2017年碩士論文　論文類型：學(xué)位論文

  更多相關(guān)文章： 深度學(xué)習(xí) 有監(jiān)督學(xué)習(xí) 超參數(shù)優(yōu)化 小麥蚜蟲 預(yù)測預(yù)報

【摘要】：人工神經(jīng)網(wǎng)絡(luò)是通過對人腦神經(jīng)元的信息處理機制進行模擬而構(gòu)建的一種機器學(xué)習(xí)模型,具有自學(xué)習(xí)、自適應(yīng)、高容錯性等優(yōu)勢。但是隨著人工神經(jīng)網(wǎng)絡(luò)隱藏層的層數(shù)增加,梯度彌散現(xiàn)象嚴(yán)重,導(dǎo)致多隱藏層的人工神經(jīng)網(wǎng)絡(luò)的優(yōu)化成為難題。2006年,Hinton等人提出的貪婪逐層無監(jiān)督預(yù)訓(xùn)練策略,使得深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練成為可能,從而開啟了深度學(xué)習(xí)的時代。深度學(xué)習(xí)利用多隱藏層的結(jié)構(gòu),對低層特征進行高度抽象,從而實現(xiàn)特征的自動提取。本文針對適用于回歸預(yù)測的深度學(xué)習(xí)算法展開研究并將其應(yīng)用于小麥蚜蟲的短期預(yù)測中。主要研究內(nèi)容如下:(1)逐層無監(jiān)督預(yù)訓(xùn)練策略在深度學(xué)習(xí)的預(yù)訓(xùn)練過程中發(fā)揮著重要的作用,但樣本標(biāo)簽所提供的監(jiān)督信息是無法替代的。面對數(shù)據(jù)量較少的回歸預(yù)測問題,無監(jiān)督學(xué)習(xí)的優(yōu)勢并不明顯。將堆疊降噪自動編碼器的特征提取模塊改為有監(jiān)督學(xué)習(xí),提出基于有監(jiān)督預(yù)訓(xùn)練的堆疊降噪自動編碼器,充分利用樣本標(biāo)簽提供的監(jiān)督信息,彌補數(shù)據(jù)量不足的劣勢。通過在UCI回歸數(shù)據(jù)集進行實驗,實驗結(jié)果表明改進的堆疊降噪自動編碼器回歸預(yù)測誤差更小,泛化能力更強。(2)超參數(shù)的設(shè)置對深度學(xué)習(xí)模型的預(yù)測性能有很大的影響,而目前對于超參數(shù)的設(shè)置缺乏明確的理論指導(dǎo)。本文在網(wǎng)格搜索算法的基礎(chǔ)上,從提高時間效率和預(yù)測準(zhǔn)確性兩個方面對網(wǎng)格搜索進行改進,提出了分塊網(wǎng)格搜索和分塊變網(wǎng)格搜索。為了驗證改進的超參數(shù)優(yōu)化算法的有效性,在UCI回歸數(shù)據(jù)集上進行實驗。Concrete數(shù)據(jù)集上的實驗結(jié)果表明:使用分塊網(wǎng)格搜索和分塊變網(wǎng)格搜索對超參數(shù)進行優(yōu)化的時間性能遠(yuǎn)遠(yuǎn)優(yōu)于網(wǎng)格搜索,并且SDAE3模型的預(yù)測能力優(yōu)于SDAE2模型。對Slice數(shù)據(jù)集進行實驗,SDAE0模型的均方誤差為66.19,而使用分塊網(wǎng)格搜索對超參數(shù)進行優(yōu)化得到SDAE2模型的均方誤差降低到2.98。Housing數(shù)據(jù)集的實驗結(jié)果表明,使用分塊網(wǎng)格搜索和分塊變網(wǎng)格搜索對超參數(shù)進行優(yōu)化的得到DBN2和DBN3模型的預(yù)測結(jié)果均優(yōu)于支持向量回歸以及局部支持向量回歸(LSVR)模型。(3)小麥蚜蟲是危害小麥產(chǎn)量和品質(zhì)的主要蟲害之一,通過對小麥蚜蟲的發(fā)生情況進行及時準(zhǔn)確的預(yù)測,可以提早預(yù)防,降低損失。本文將深度信念網(wǎng)絡(luò)與局部支持向量回歸進行結(jié)合,提出了DBN_LSVR模型,并將其用于小麥蚜蟲發(fā)生情況的短期預(yù)測。其中深度信念網(wǎng)絡(luò)主要用于小麥蚜蟲的特征學(xué)習(xí)階段,局部支持向量回歸主要用于回歸模型的構(gòu)建。通過在小麥蚜蟲數(shù)據(jù)集上進行實驗,實驗結(jié)果表明,DBN_LSVR模型對百株蚜量的預(yù)測誤差為649.2,對發(fā)生程度的預(yù)測準(zhǔn)確率達(dá)到83.33%。通過與LSVR、DBN等模型進行對比,實驗結(jié)果表明,DBN_LSVR模型對小麥蚜蟲發(fā)生情況的預(yù)測優(yōu)于其它對比模型,為小麥蚜蟲以及其它蟲害的預(yù)測預(yù)報提供了一種可行的方案。
【學(xué)位授予單位】：山東農(nóng)業(yè)大學(xué)
【學(xué)位級別】：碩士
【學(xué)位授予年份】：2017
【分類號】：TP18;O212.1

【參考文獻(xiàn)】

相關(guān)期刊論文 前10條

1 樊恒;徐俊;鄧勇;向金海;;基于深度學(xué)習(xí)的人體行為識別[J];武漢大學(xué)學(xué)報(信息科學(xué)版);2016年04期

2 張雯;王文偉;;基于局部二值模式和深度學(xué)習(xí)的人臉識別[J];計算機應(yīng)用;2015年05期

3 王山海;景新幸;楊海燕;;基于深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的孤立詞語音識別的研究[J];計算機應(yīng)用研究;2015年08期

4 靳然;李生才;;基于小波神經(jīng)網(wǎng)絡(luò)的麥蚜發(fā)生量預(yù)測研究[J];天津農(nóng)業(yè)科學(xué);2015年04期

5 張建明;詹智財;成科揚;詹永照;;深度學(xué)習(xí)的研究與發(fā)展[J];江蘇大學(xué)學(xué)報(自然科學(xué)版);2015年02期

6 夏春江;王培良;張媛;;基于深度學(xué)習(xí)的木材含水率預(yù)測[J];杭州電子科技大學(xué)學(xué)報(自然科學(xué)版);2015年01期

7 鄭毅;朱成璋;;基于深度信念網(wǎng)絡(luò)的PM_(2.5)預(yù)測[J];山東大學(xué)學(xué)報(工學(xué)版);2014年06期

8 余濱;李紹滋;徐素霞;紀(jì)榮嶸;;深度學(xué)習(xí):開啟大數(shù)據(jù)時代的鑰匙[J];工程研究-跨學(xué)科視野中的工程;2014年03期

9 梁軍;柴玉梅;原慧斌;昝紅英;劉銘;;基于深度學(xué)習(xí)的微博情感分析[J];中文信息學(xué)報;2014年05期

10 梁淑芬;劉銀華;李立琛;;基于LBP和深度學(xué)習(xí)的非限制條件下人臉識別算法[J];通信學(xué)報;2014年06期

相關(guān)碩士學(xué)位論文 前6條

1 蘇一峰;基于物聯(lián)網(wǎng)的小麥病蟲害動態(tài)氣象模型和遠(yuǎn)程診斷方法研究[D];中國農(nóng)業(yè)科學(xué)院;2016年

2 岳永鵬;深度無監(jiān)督學(xué)習(xí)算法研究[D];西南石油大學(xué);2015年

3 張建華;基于深度學(xué)習(xí)的語音識別應(yīng)用研究[D];北京郵電大學(xué);2015年

4 王恒歡;基于深度學(xué)習(xí)的圖像識別算法研究[D];北京郵電大學(xué);2015年

5 李飛騰;卷積神經(jīng)網(wǎng)絡(luò)及其應(yīng)用[D];大連理工大學(xué);2014年

6 游前慧;基于核密度的半監(jiān)督學(xué)習(xí)算法在視頻語義標(biāo)注中的應(yīng)用[D];北京交通大學(xué);2008年

，

本文編號：1330201