基于Attention機(jī)制的LSTM股票預(yù)測模型實(shí)證分析
發(fā)布時(shí)間:2023-06-03 04:55
長短期記憶模型(Long short-term memory),簡稱LSTM模型,該模型是針對RNN模型在訓(xùn)練長時(shí)序數(shù)據(jù)時(shí)性能下降而提出的。模型中加入了三種“門控裝置”,以解決了在RNN模型中出現(xiàn)的梯度消失和爆炸問題。同時(shí),LSTM模型內(nèi)部的三種門控裝置,各自獨(dú)立的對數(shù)據(jù)進(jìn)行輸入輸出控制,形成對數(shù)據(jù)的獨(dú)立記憶,從而可以解決對長序數(shù)據(jù)進(jìn)行擬合時(shí)的遺忘問題。相較于傳統(tǒng)的RNN網(wǎng)絡(luò),由于LSTM模型在其內(nèi)部構(gòu)建了一種非線性激活函數(shù),使其在非線性相關(guān)數(shù)據(jù)的擬合分析上具有較大的優(yōu)勢。同時(shí),為了解決當(dāng)輸入的時(shí)間序列數(shù)據(jù)非常長時(shí),LSTM模型難以學(xué)習(xí)到長時(shí)序列數(shù)據(jù)中蘊(yùn)含的深層次關(guān)系。因此,本文引入了attention機(jī)制,該機(jī)制保留LSTM在對數(shù)據(jù)進(jìn)行擬合時(shí)的中間訓(xùn)練結(jié)果,之后該機(jī)制從新訓(xùn)練一個(gè)模型來對這些中間訓(xùn)練結(jié)果進(jìn)行選擇性的學(xué)習(xí)并賦予不同的權(quán)重,最后在模型輸出最終結(jié)果時(shí)將中間結(jié)果與之進(jìn)行關(guān)聯(lián),來達(dá)到提升LSTM模型訓(xùn)練性能的目的。本文通過LSTM模型對股價(jià)的走勢和漲跌兩個(gè)方面進(jìn)行預(yù)測實(shí)證分析,來研究attention機(jī)制和LSTM模型在股票市場的適用性。并對建模是出現(xiàn)的一些問題進(jìn)行總結(jié)和分析,...
【文章頁數(shù)】:58 頁
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
Abstract
第1章 緒論
1.1 論文的背景和研究意義
1.2 國內(nèi)外文獻(xiàn)綜述
1.2.1 傳統(tǒng)股票價(jià)格預(yù)測研究綜述
1.2.2 LSTM神經(jīng)網(wǎng)絡(luò)研究綜述
1.2.3 注意力機(jī)制文獻(xiàn)綜述
1.3 研究的主要內(nèi)容
1.4 文章的組織結(jié)構(gòu)
1.5 創(chuàng)新點(diǎn)與不足之處
第2章 基本理論模型
2.1 ARIMA模型理論
2.1.1 建模步驟
2.2 RNN循環(huán)神經(jīng)網(wǎng)絡(luò)基本原理
2.2.1 梯度傳播
2.2.2 RNN的前向傳播
2.2.3 RNN的反向傳播
2.3 LSTM神經(jīng)網(wǎng)絡(luò)基本原理
2.3.1 遺忘門
2.3.2 輸入門
2.3.3 輸出門
2.4 attention機(jī)制的基本原理
第3章 模型的構(gòu)建
3.0 數(shù)據(jù)的選取
3.1 技術(shù)指標(biāo)的介紹
3.2 數(shù)據(jù)預(yù)處理
3.2.1 數(shù)據(jù)劃分
3.2.2 對數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理
3.2.3 對數(shù)據(jù)進(jìn)行分類標(biāo)記
3.2.4 特征選擇
3.3 實(shí)驗(yàn)設(shè)計(jì)及模型結(jié)構(gòu)
3.3.1 實(shí)驗(yàn)一:對股指走勢進(jìn)行預(yù)測
3.3.2 實(shí)驗(yàn)二:對股指的漲跌進(jìn)行預(yù)測
3.4 模型評(píng)價(jià)指標(biāo)
第4章 實(shí)證分析過程及結(jié)果
4.1 實(shí)驗(yàn)一:走勢預(yù)測
4.2 實(shí)驗(yàn)二股指漲跌預(yù)測
4.3 實(shí)驗(yàn)結(jié)果總結(jié)
4.4 建模問題總結(jié)
第5章 結(jié)論與展望
5.1 結(jié)論
5.2 展望
參考文獻(xiàn)
致謝
本文編號(hào):3828700
【文章頁數(shù)】:58 頁
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
Abstract
第1章 緒論
1.1 論文的背景和研究意義
1.2 國內(nèi)外文獻(xiàn)綜述
1.2.1 傳統(tǒng)股票價(jià)格預(yù)測研究綜述
1.2.2 LSTM神經(jīng)網(wǎng)絡(luò)研究綜述
1.2.3 注意力機(jī)制文獻(xiàn)綜述
1.3 研究的主要內(nèi)容
1.4 文章的組織結(jié)構(gòu)
1.5 創(chuàng)新點(diǎn)與不足之處
第2章 基本理論模型
2.1 ARIMA模型理論
2.1.1 建模步驟
2.2 RNN循環(huán)神經(jīng)網(wǎng)絡(luò)基本原理
2.2.1 梯度傳播
2.2.2 RNN的前向傳播
2.2.3 RNN的反向傳播
2.3 LSTM神經(jīng)網(wǎng)絡(luò)基本原理
2.3.1 遺忘門
2.3.2 輸入門
2.3.3 輸出門
2.4 attention機(jī)制的基本原理
第3章 模型的構(gòu)建
3.0 數(shù)據(jù)的選取
3.1 技術(shù)指標(biāo)的介紹
3.2 數(shù)據(jù)預(yù)處理
3.2.1 數(shù)據(jù)劃分
3.2.2 對數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理
3.2.3 對數(shù)據(jù)進(jìn)行分類標(biāo)記
3.2.4 特征選擇
3.3 實(shí)驗(yàn)設(shè)計(jì)及模型結(jié)構(gòu)
3.3.1 實(shí)驗(yàn)一:對股指走勢進(jìn)行預(yù)測
3.3.2 實(shí)驗(yàn)二:對股指的漲跌進(jìn)行預(yù)測
3.4 模型評(píng)價(jià)指標(biāo)
第4章 實(shí)證分析過程及結(jié)果
4.1 實(shí)驗(yàn)一:走勢預(yù)測
4.2 實(shí)驗(yàn)二股指漲跌預(yù)測
4.3 實(shí)驗(yàn)結(jié)果總結(jié)
4.4 建模問題總結(jié)
第5章 結(jié)論與展望
5.1 結(jié)論
5.2 展望
參考文獻(xiàn)
致謝
本文編號(hào):3828700
本文鏈接:http://www.sikaile.net/jingjilunwen/jingjiguanlilunwen/3828700.html
最近更新
教材專著