股市行情隨眾多影響因子不斷變化,現(xiàn)有基于時(shí)間序列預(yù)測(cè)的方法難以捕捉該非線性動(dòng)力系統(tǒng)的復(fù)雜變化規(guī)律,預(yù)測(cè)效果并不理想。本文提出基于Attention機(jī)制的GRU預(yù)測(cè)模型,捕捉關(guān)鍵時(shí)間點(diǎn)特征信息以解決對(duì)時(shí)間特征不敏感導(dǎo)致預(yù)測(cè)精度不高的問(wèn)題以提升預(yù)測(cè)精確度。首先使用LSTM和GRU構(gòu)建基礎(chǔ)預(yù)測(cè)模型;然后對(duì)輸入特征進(jìn)行統(tǒng)計(jì)處理和篩選,選取更能反映股價(jià)變動(dòng)規(guī)律的特征;最后基于編碼器-解碼器框架,在GRU模型上加入Attention機(jī)制,使模型聚焦于重要時(shí)間點(diǎn)的股票特征信息。本文在科大訊飛股票數(shù)據(jù)上進(jìn)行實(shí)驗(yàn),實(shí)驗(yàn)結(jié)果表明基于Attention機(jī)制的GRU模型在MAPE,RMSE,R2 score三個(gè)評(píng)價(jià)指標(biāo)上均優(yōu)于其他模型,Attention機(jī)制能夠捕捉重要時(shí)間點(diǎn)局部特征,對(duì)預(yù)測(cè)模型的優(yōu)化是可行和有效的。 

【文章來(lái)源】：系統(tǒng)工程. 2020年05期 北大核心CSSCI

【文章頁(yè)數(shù)】：7 頁(yè)

【部分圖文】：

圖２數(shù)據(jù)集構(gòu)造??４模型優(yōu)化??

會(huì)有較大的影響。??傳統(tǒng)的遞歸神經(jīng)網(wǎng)絡(luò)對(duì)所有時(shí)間點(diǎn)的輸人值都賦予??相同的權(quán)重，即認(rèn)為其影響度是相同的。八ｔｔｅｎｔｉｏｎ機(jī)制??可以很好地給不同位置的特征賦予不同的注意力權(quán)重，從??而捕捉到不同時(shí)間的特征影響度。本文基于Ａｔｔｅｎｔｉｏｎ機(jī)??制優(yōu)化模型，基于評(píng)分函數(shù)計(jì)算每個(gè)時(shí)間點(diǎn)對(duì)預(yù)測(cè)值的影??響程度大小，為每個(gè)時(shí)間點(diǎn)賦予對(duì)應(yīng)權(quán)值，使得模型聚焦??于重要時(shí)間點(diǎn)輸人。此外Ａｔｔｅｎｔｉｏｎ機(jī)制可以處理更長(zhǎng)的??時(shí)間序列，避免了較長(zhǎng)時(shí)間間隔導(dǎo)致的信息損失。所構(gòu)建??模型的架構(gòu)如圖３所示。??（：⑷⑷⑷……（０??圖３模型架構(gòu)圖??基于編碼器一解碼器框架構(gòu)建預(yù)測(cè)模型。先將時(shí)間??序列（Ｕ２…，輸人編碼器（Ｅｎｃｏｄｅｒ）內(nèi)進(jìn)行編??碼，獲得中間隱藏層編碼向量（／＾，，／ｉ．５，…，）。然后??通過(guò)Ａｔｔｅｎｔｉｏｎ層對(duì)編碼向量處理，得到每個(gè)編碼向量對(duì)??應(yīng)的權(quán)值（ａ＾，ａ２，ａ３，…，ａ？?）。用計(jì)算的權(quán)值對(duì)中間隱藏??層編碼向量進(jìn)行加權(quán)作為解碼器（Ｄｅｃｏｄｅｒ）的輸人，最后??通過(guò)解碼器得到模型的預(yù)測(cè)值編碼器和解碼器均基??于ＧＲＵ模型實(shí)現(xiàn)，得到的中間隱藏層編碼向量即ＧＲＵ??模型中間隱藏層的輸出。每個(gè)時(shí)間點(diǎn)的編碼向量還結(jié)合??了該時(shí)間點(diǎn)以前的股價(jià)特征，即考慮了上下文來(lái)編碼當(dāng)前??時(shí)刻信息。八ｔｔｅｎｔｉｏｎ層用于決定不同時(shí)間點(diǎn)輸人的重要??程度，通過(guò)評(píng)分函數(shù)衡量這種重要度并將其量化，圖４說(shuō)??明了注意力權(quán)值的計(jì)算過(guò)程。??用Ｅｎｃｏｄｅｒ最后一個(gè)時(shí)刻的隱藏層輸出與其他每??個(gè)時(shí)刻的隱藏層輸出Ｉ比較，通過(guò)函數(shù)Ｓｃｏｒｅ?ｄ，Ａｎ?）獲??取其相似度＆，最后經(jīng)過(guò)Ｓｏｆｔｍａｘ得到每個(gè)時(shí)間點(diǎn)的注意??力

層對(duì)編碼向量處理，得到每個(gè)編碼向量對(duì)??應(yīng)的權(quán)值（ａ＾，ａ２，ａ３，…，ａ？?）。用計(jì)算的權(quán)值對(duì)中間隱藏??層編碼向量進(jìn)行加權(quán)作為解碼器（Ｄｅｃｏｄｅｒ）的輸人，最后??通過(guò)解碼器得到模型的預(yù)測(cè)值編碼器和解碼器均基??于ＧＲＵ模型實(shí)現(xiàn)，得到的中間隱藏層編碼向量即ＧＲＵ??模型中間隱藏層的輸出。每個(gè)時(shí)間點(diǎn)的編碼向量還結(jié)合??了該時(shí)間點(diǎn)以前的股價(jià)特征，即考慮了上下文來(lái)編碼當(dāng)前??時(shí)刻信息。八ｔｔｅｎｔｉｏｎ層用于決定不同時(shí)間點(diǎn)輸人的重要??程度，通過(guò)評(píng)分函數(shù)衡量這種重要度并將其量化，圖４說(shuō)??明了注意力權(quán)值的計(jì)算過(guò)程。??用Ｅｎｃｏｄｅｒ最后一個(gè)時(shí)刻的隱藏層輸出與其他每??個(gè)時(shí)刻的隱藏層輸出Ｉ比較，通過(guò)函數(shù)Ｓｃｏｒｅ?ｄ，Ａｎ?）獲??取其相似度＆，最后經(jīng)過(guò)Ｓｏｆｔｍａｘ得到每個(gè)時(shí)間點(diǎn)的注意??力權(quán)值。函數(shù)，／ｉ？?）采用加性注意力的方法，通過(guò)??一個(gè)多層感知機(jī)實(shí)現(xiàn)，如式（６）所示。??ｓｃｏｒｃ（Ａｚ－）?＝?ｒｃｌｕ（Ｗ［／ｉｊ?；／ｉｚ?］?＋?６）?（６．）??這里，Ｗ是參數(shù)矩陣，６是偏置。本文構(gòu)建的模型與傳統(tǒng)??八ｔｔｅｎｔｉｏｎ機(jī)制的用法不同，傳統(tǒng)Ａｔｔｅｎｔｉｏｎ機(jī)制計(jì)算得出??權(quán)值后計(jì)算中間編碼向量的加權(quán)和，作為解碼器輸人。??本文將加權(quán)后的中間編碼向量序列作為新的輸人，經(jīng)過(guò)??Ｄｅｃｏｄｅｒ得到預(yù)測(cè)結(jié)果。??圖４?Ａｔｔｒｉｔｉｏｎ權(quán)值計(jì)算過(guò)程??５實(shí)驗(yàn)結(jié)果和分析??本節(jié)介紹了實(shí)驗(yàn)設(shè)置，模型評(píng)價(jià)指標(biāo)，最后對(duì)實(shí)驗(yàn)結(jié)??果進(jìn)行分析。??５．１實(shí)驗(yàn)設(shè)置??利用科大訊飛（００２２３０）的歷史股票數(shù)據(jù)作為數(shù)據(jù)集，??對(duì)模型進(jìn)行實(shí)驗(yàn)分析。以天為單位收集科大訊飛近３年??股票歷史行情數(shù)據(jù)，從２０１６年

【參考文獻(xiàn)】：
期刊論文
[1]基于人工智能的證券金融服務(wù)創(chuàng)新研究[J]. 程娟,周雄偉.  金融科技時(shí)代. 2018(10)
[2]基于BP神經(jīng)網(wǎng)絡(luò)構(gòu)建的分類(lèi)器模型財(cái)務(wù)分析領(lǐng)域的應(yīng)用[J]. 程書(shū)強(qiáng),羅娟,王念東.  自動(dòng)化與儀器儀表. 2018(01)
[3]基于灰色GARCH模型和BP神經(jīng)網(wǎng)絡(luò)的股票價(jià)格預(yù)測(cè)[J]. 曹曉,孫紅兵.  軟件. 2017(11)
[4]基于微博信息的股票交易預(yù)測(cè)研究[J]. 胡婧,葉建木.  財(cái)政監(jiān)督. 2017(05)
[5]基于自適應(yīng)遺傳算法優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)股票價(jià)格預(yù)測(cè)[J]. 郝繼升,任浩然,井文紅.  河南科學(xué). 2017(02)
[6]BP神經(jīng)網(wǎng)絡(luò)在股票指數(shù)預(yù)測(cè)中的應(yīng)用[J]. 黃宏運(yùn),吳禮斌,李詩(shī)爭(zhēng).  通化師范學(xué)院學(xué)報(bào). 2016(10)
[7]移動(dòng)平均線分析法及其交易策略研究[J]. 陳標(biāo)金,陳文杰.  商業(yè)研究. 2015(07)
[8]基于模糊K線序列比對(duì)的股市技術(shù)分析模型[J]. 徐信喆.  計(jì)算機(jī)應(yīng)用與軟件. 2010(09)
[9]基于支持向量機(jī)的股票預(yù)測(cè)[J]. 張晨希,張燕平,張迎春,陳潔,萬(wàn)忠.  計(jì)算機(jī)技術(shù)與發(fā)展. 2006(06)
[10]股票價(jià)格指數(shù)的投資功能[J]. 劉長(zhǎng)虎,陶建格,崔衍秋.  市場(chǎng)論壇. 2004(06)



本文編號(hào)：2953765