【摘要】：近年來數(shù)字化進(jìn)程發(fā)展迅猛,將各類信息數(shù)據(jù)化,能更好的發(fā)現(xiàn)其本質(zhì)特點(diǎn)和變化規(guī)律。時(shí)間序列數(shù)據(jù)便是一類具有代表性的數(shù)據(jù),對(duì)于大部分實(shí)際數(shù)據(jù)來說,由于所受影響因素眾多,其往往是非線性的時(shí)間序列數(shù)據(jù),所以對(duì)于非線性時(shí)間序列的預(yù)測(cè)問題的分析和研究是十分重要的。本文對(duì)Monte Carlo方法和長(zhǎng)短期記憶算法進(jìn)行了探討和分析,對(duì)實(shí)驗(yàn)數(shù)據(jù)進(jìn)行清理,并根據(jù)長(zhǎng)短期記憶算法建立了一種預(yù)測(cè)非線性時(shí)間序列數(shù)據(jù)的模型,依據(jù)Monte Carlo方法的原理設(shè)置了預(yù)測(cè)效果的度量標(biāo)準(zhǔn)。首先,對(duì)Monte Carlo方法和長(zhǎng)短期記憶算法的原理和優(yōu)缺點(diǎn)進(jìn)行探究,并對(duì)有監(jiān)督機(jī)器學(xué)習(xí)中的過擬合問題產(chǎn)生的原因和相應(yīng)解決辦法通過結(jié)合實(shí)例的方式進(jìn)行總結(jié)和分析。其次,對(duì)收集到的人口數(shù)據(jù)和股票數(shù)據(jù)進(jìn)行預(yù)處理(異常數(shù)據(jù)的刪除和填補(bǔ)、歸一化),并結(jié)合平安銀行股票數(shù)據(jù)的實(shí)例來展示數(shù)據(jù)清理過程中異常數(shù)據(jù)的處理方式,初步確定預(yù)測(cè)算法的Keras框架結(jié)構(gòu),并依據(jù)Monte Carlo方法的原理設(shè)定預(yù)測(cè)準(zhǔn)確率的計(jì)算方式。最后,以一組隨機(jī)生成的服從正弦分布的數(shù)據(jù)點(diǎn)來測(cè)試算法框架的實(shí)際預(yù)測(cè)效果。并對(duì)清理后的哈爾濱市歷年人口數(shù)據(jù)應(yīng)用不同結(jié)構(gòu)的算法進(jìn)行預(yù)測(cè),通過對(duì)比不同結(jié)構(gòu)的算法框架的預(yù)測(cè)效果來確定最終長(zhǎng)短期記憶算法的框架結(jié)構(gòu),并對(duì)東風(fēng)汽車股票和平安銀行股票的5個(gè)特征數(shù)據(jù)進(jìn)行預(yù)測(cè)分析和準(zhǔn)確率的計(jì)算。本文的實(shí)證分析選取了2002年到2018年平安銀行股票和東風(fēng)汽車股票的每日數(shù)據(jù),實(shí)證結(jié)果表明:結(jié)合了長(zhǎng)短期記憶算法和Monte Carlo方法的預(yù)測(cè)框架,對(duì)于非線性的時(shí)間序列數(shù)據(jù)的預(yù)測(cè)有較好的效果,能夠很好的學(xué)習(xí)數(shù)據(jù)的整體變化趨勢(shì)和細(xì)節(jié)特征;通過Monte Carlo方法的原理來設(shè)置并計(jì)算的準(zhǔn)確率,更加貼近數(shù)據(jù)的實(shí)際預(yù)測(cè)效果,有利于對(duì)算法框架內(nèi)部參數(shù)進(jìn)行調(diào)節(jié)。
【學(xué)位授予單位】：哈爾濱工業(yè)大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位授予年份】：2019
【分類號(hào)】：F832.51;F224
【圖文】：

哈爾濱工業(yè)大學(xué)應(yīng)用統(tǒng)計(jì)碩士專業(yè)學(xué)位論文的隨機(jī)，其得到隨機(jī)序列其實(shí)是具有一定周期的偽隨機(jī)數(shù)Monte Carlo 方法的原理來設(shè)置實(shí)驗(yàn)預(yù)測(cè)的準(zhǔn)確度，從而得ulli 大數(shù)定律：limn→∞P* ( ) + = 1, 0 重伯努利試驗(yàn)中成功的次數(shù)； (0 1)為每次試驗(yàn)成記憶算法來源于循環(huán)神經(jīng)網(wǎng)絡(luò)算法，由于數(shù)據(jù)在循環(huán)神經(jīng)行雙向傳遞時(shí)存在傳遞誤差,6-，所以導(dǎo)致在進(jìn)行數(shù)據(jù)預(yù)測(cè)失和梯度爆炸等問題，而長(zhǎng)短期記憶算法運(yùn)用輸入控制,7-來避免這類問題有十分顯著的效果。其結(jié)構(gòu)如圖 1-1 所示

章主要對(duì)神經(jīng)網(wǎng)絡(luò)領(lǐng)域的相關(guān)預(yù)測(cè)模型（CNN、RNN、LSTM）的行總結(jié)說明和論證分析。主要包括：神經(jīng)網(wǎng)絡(luò)基本結(jié)構(gòu)、過擬合問法、卷積神經(jīng)網(wǎng)絡(luò)、分類神經(jīng)網(wǎng)絡(luò)和長(zhǎng)短期記憶算法的結(jié)構(gòu)和存經(jīng)網(wǎng)絡(luò)基本結(jié)構(gòu)工神經(jīng)網(wǎng)絡(luò)模型是高度模仿生物神經(jīng)網(wǎng)絡(luò)的一類計(jì)算機(jī)實(shí)現(xiàn)模型的神經(jīng)元間的突觸關(guān)系進(jìn)行固定，并以計(jì)算機(jī)進(jìn)行結(jié)構(gòu)搭建實(shí)現(xiàn)模型的結(jié)構(gòu)和生物神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)一樣，由多個(gè)不同分工的神經(jīng)又由多個(gè)細(xì)胞體組成,28-。人工神經(jīng)網(wǎng)絡(luò)是依靠正向和反向傳播相神經(jīng)層內(nèi)部的眾多細(xì)胞體內(nèi)部參數(shù)的運(yùn)算模型。一般情況下，由直輸入層（input layer）、處理數(shù)據(jù)的隱藏層（hiden layer）、數(shù)據(jù)輸出層所組成。通常情況下神經(jīng)網(wǎng)絡(luò)中的輸入層和輸出層的數(shù)量都為 1，目并不是固定不變的。人工神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)如圖 3-1 所示：輸入層 隱藏層 隱藏層 輸出層

圖 3-1 神經(jīng)網(wǎng)絡(luò)信息加工過程圖在神經(jīng)網(wǎng)絡(luò)中，數(shù)據(jù)信息的各層交換的實(shí)質(zhì)是各神經(jīng)層內(nèi)部的權(quán)值和偏置值的交換,29-，首先數(shù)據(jù)傳入輸入層，輸入層會(huì)以隨機(jī)數(shù)的方式為各個(gè)細(xì)胞賦予初始的權(quán)值和偏置值，然后數(shù)據(jù)傳入隱藏層，隱藏層獲取相應(yīng)的權(quán)值和偏置值，之后以處理過的權(quán)值和偏置值進(jìn)行新的數(shù)據(jù)計(jì)算，并將數(shù)據(jù)傳到梯度下降結(jié)構(gòu)，通過梯度下降結(jié)構(gòu)來計(jì)算下一步梯度的變化情況并將之前的權(quán)值和偏置進(jìn)行更新，就這樣循環(huán)往復(fù)，不斷更新優(yōu)化相應(yīng)的權(quán)值和偏置值，最后得到最佳的權(quán)值和偏置來對(duì)數(shù)據(jù)進(jìn)行預(yù)測(cè)。現(xiàn)階段眾多優(yōu)化算法的核心都是對(duì)于梯度下降結(jié)構(gòu)（優(yōu)化器）中權(quán)值的更新公式進(jìn)行調(diào)整,30-。在梯度下降結(jié)構(gòu)中，傳統(tǒng)更新公式見式（3-1）. = （3-1）其中， 為被更新的權(quán)值， 為學(xué)習(xí)效率， 為調(diào)整幅度的取值。整合多步的學(xué)習(xí)效率的 momentum 更新方法見式（3-2）至（3-3）.= L （3-2）

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 許書;;電擊能夠幫助你改善記憶?[J];科普童話;2017年01期

2 本刊編輯部;;你的“短期記憶”如何影響世界[J];福建教育;2016年15期

3 羅輯思維;;如何成為學(xué)新東西最快的那個(gè)人[J];初中生世界;2019年Z5期

4 林心明;小學(xué)生短期記憶與數(shù)學(xué)教學(xué)[J];河北教育;1994年01期

5 李飛弋;;工作記憶中語音短期記憶在二語學(xué)習(xí)中的作用[J];黑河學(xué)院學(xué)報(bào);2017年02期

6 雷中華;;交替?zhèn)髯g教學(xué)中的短期記憶訓(xùn)練[J];語文學(xué)刊;2007年03期

7 ;英國(guó)一男子因喪失短期記憶能力忘記吃飯洗澡[J];心血管病防治知識(shí)(科普版);2013年09期

8 齊丹;;交傳過程中強(qiáng)化短期記憶與筆記法輔助相結(jié)合的可行性研究[J];校園英語;2019年01期

9 李錚;D.A.Norman;;國(guó)外短期記憶的研究和理論[J];外國(guó)心理學(xué);1982年02期

10 李榮;減輕短期記憶負(fù)荷,提高整體獲取信息能力[J];前沿;1995年07期

相關(guān)會(huì)議論文 前2條

1 李琪;李寧真;李婷婷;孫艷秋;陳銳;;中青年阻塞性睡眠呼吸暫停低通氣綜合征患者的注意力及短期記憶損傷特點(diǎn)及影響因素分析[A];中國(guó)睡眠研究會(huì)第十屆全國(guó)學(xué)術(shù)年會(huì)匯編[C];2018年

2 高根德;李輝;;中藥聞香促進(jìn)記憶的臨床研究[A];2011年浙江省物理醫(yī)學(xué)與康復(fù)學(xué)學(xué)術(shù)年會(huì)暨康復(fù)新進(jìn)展學(xué)習(xí)班論文匯編[C];2011年

相關(guān)重要報(bào)紙文章 前2條

1 記者 趙鳳華　通訊員 顧淑霞;清華博士《細(xì)胞》發(fā)文闡述果蠅短期記憶遺忘機(jī)理[N];科技日?qǐng)?bào);2010年

2 記者 淑霞　通訊員 一春;清華師生《細(xì)胞》發(fā)文闡述果蠅短期記憶遺忘機(jī)理[N];新清華;2010年

相關(guān)博士學(xué)位論文 前1條

1 祝小軍;英語詞匯教學(xué)中母語翻譯的作用[D];上海外國(guó)語大學(xué);2014年

相關(guān)碩士學(xué)位論文 前10條

1 李琪;中青年阻塞性睡眠呼吸暫停低通氣綜合征患者的注意力及短期記憶損傷特點(diǎn)及影響因素分析[D];蘇州大學(xué);2018年

2 赫明輝;深度學(xué)習(xí)長(zhǎng)短期記憶算法和Monte Carlo方法的分析及應(yīng)用[D];哈爾濱工業(yè)大學(xué);2019年

3 陳斌;基于長(zhǎng)短期記憶網(wǎng)絡(luò)的事件抽取研究與應(yīng)用[D];中國(guó)礦業(yè)大學(xué);2019年

4 李科嘉;基于長(zhǎng)短期記憶模型的期貨價(jià)格預(yù)測(cè)[D];中國(guó)科學(xué)技術(shù)大學(xué);2018年

5 安曉霖;短期記憶在聯(lián)絡(luò)口譯中的應(yīng)用[D];成都理工大學(xué);2016年

6 滕飛;基于長(zhǎng)短期記憶多維主題微博情感傾向性分析[D];南昌大學(xué);2016年

7 林映;藝術(shù)思維與交替?zhèn)髯g短期記憶之間的關(guān)聯(lián)[D];四川外國(guó)語大學(xué);2017年

8 張梅;TD-LTE全球發(fā)展組織領(lǐng)導(dǎo)委員會(huì)電話會(huì)議口譯實(shí)踐報(bào)告[D];河北師范大學(xué);2015年

9 楊璐;中日互譯過程中的記憶策略探索[D];廣東外語外貿(mào)大學(xué);2014年

10 孫_g;記數(shù)字筆記是否能幫助提高同傳中數(shù)字的準(zhǔn)確率[D];上海外國(guó)語大學(xué);2011年

本文編號(hào)：2765335