金融領(lǐng)域風(fēng)險(xiǎn)控制永遠(yuǎn)是業(yè)務(wù)的核心基礎(chǔ)。我們要通過(guò)對(duì)業(yè)務(wù)的理解應(yīng)用數(shù)學(xué)理論知識(shí)建立信用評(píng)分模型,科學(xué)的解決信用評(píng)分問(wèn)題,減少信用違約的風(fēng)險(xiǎn),提高企業(yè)的收益,使盈利最大化。傳統(tǒng)的機(jī)器學(xué)習(xí)模型在數(shù)據(jù)量大,結(jié)構(gòu)復(fù)雜和維度增大的情況下給算法的訓(xùn)練和預(yù)測(cè)帶來(lái)問(wèn)題。大數(shù)據(jù)時(shí)代的到來(lái),給信用評(píng)分這個(gè)傳統(tǒng)問(wèn)題帶來(lái)問(wèn)題和挑戰(zhàn),將深度學(xué)習(xí)算法應(yīng)用到信用評(píng)分上是一個(gè)值得研究的問(wèn)題。本文主要工作如下:（1）提出結(jié)合DBN和ELM的改進(jìn)深度學(xué)習(xí)算法深度置信網(wǎng)絡(luò)（DBN）算法的是一種性能優(yōu)秀的深度學(xué)習(xí)模型,但是訓(xùn)練需要經(jīng)過(guò)預(yù)訓(xùn)練和微調(diào)兩個(gè)階段,耗費(fèi)了大量的時(shí)間。極限學(xué)習(xí)機(jī)（ELM）算法具有訓(xùn)練速度快,泛化性育能好的特點(diǎn),但是研究表明ELM算法往往需要更多的隱層神經(jīng)元才會(huì)取得好的效果,即模型的訓(xùn)練需要更大的內(nèi)存。為了有效的結(jié)合兩者的優(yōu)點(diǎn),本文提出了一種將ELM和DBN結(jié)合的新算法DBN-DELM。同時(shí)為了有效利用中間隱層信息提出了借鑒bagging思想的 DBN-DELM-ensemble 算法,并分別將 DBN,ELM 和 IDBN,DBN-DELM,DBN-DELM-ensemble算法應(yīng)用在手寫(xiě)體數(shù)據(jù)集MNIS... 

【文章來(lái)源】：西安理工大學(xué)陜西省

【文章頁(yè)數(shù)】：66 頁(yè)

【學(xué)位級(jí)別】：碩士

【部分圖文】：

限制玻爾茲曼機(jī)模型

深度信念網(wǎng)絡(luò)模型

圖 2-2 深度信念網(wǎng)絡(luò)模型Fig 2-2 Deep Belief Network Model圖可以看出，限制玻爾茲曼機(jī)和深度信念網(wǎng)絡(luò)結(jié)構(gòu)的關(guān)系為深度信念網(wǎng)絡(luò)是由多爾茲曼機(jī)通過(guò)無(wú)監(jiān)督預(yù)訓(xùn)練堆疊組成的。于 DBN 模型的訓(xùn)練可以分為無(wú)監(jiān)督預(yù)訓(xùn)練和有監(jiān)督的微調(diào)過(guò)程，第一個(gè)過(guò)程通得到一個(gè)好的初始化參數(shù)避免 BP 算法在深層網(wǎng)絡(luò)優(yōu)化中的梯度消失問(wèn)題，同時(shí)速度，第二個(gè)過(guò)程通過(guò) BP 算法在已經(jīng)得到好的初始化參數(shù)的深度網(wǎng)絡(luò)中進(jìn)行全微調(diào)，使得算法效果更佳。詳細(xì)的過(guò)程為：1）無(wú)監(jiān)督學(xué)習(xí)BN 算法的無(wú)監(jiān)督預(yù)訓(xùn)練過(guò)程如圖 2-3 所示，通過(guò)訓(xùn)練數(shù)據(jù)逐層傳遞，貪婪的訓(xùn)個(gè) RBM 的參數(shù)ijw ,ia 和jb ，這樣為下一步的全局微調(diào)得到一個(gè)好的初始化參數(shù)

【參考文獻(xiàn)】：
期刊論文
[1]基于CRBM算法的時(shí)間序列預(yù)測(cè)模型研究[J]. 周曉莉,張豐,杜震洪,曹敏杰,劉仁義.  浙江大學(xué)學(xué)報(bào)(理學(xué)版). 2016(04)
[2]一種基于膠質(zhì)細(xì)胞鏈的改進(jìn)深度信念網(wǎng)絡(luò)模型[J]. 耿志強(qiáng),張怡康.  自動(dòng)化學(xué)報(bào). 2016(06)
[3]一種交替變換更新層數(shù)的DBN-DNN快速訓(xùn)練方法[J]. 李軒,李春升.  計(jì)算機(jī)應(yīng)用研究. 2016(03)
[4]基于極限學(xué)習(xí)的深度學(xué)習(xí)算法[J]. 趙志勇,李元香,喻飛,易云飛.  計(jì)算機(jī)工程與設(shè)計(jì). 2015(04)
[5]基于DBN-ELM的球磨機(jī)料位軟測(cè)量方法研究[J]. 康巖,盧慕超,閻高偉.  儀表技術(shù)與傳感器. 2015(04)
[6]極端學(xué)習(xí)機(jī)算法的改進(jìn)及應(yīng)用研究[J]. 牛培峰,馬云鵬,劉魏巖,盧青,楊瀟.  燕山大學(xué)學(xué)報(bào). 2015(02)
[7]一種改進(jìn)的深度神經(jīng)網(wǎng)絡(luò)在小圖像分類中的應(yīng)用研究[J]. 呂剛,郝平,盛建榮.  計(jì)算機(jī)應(yīng)用與軟件. 2014(04)
[8]基于多GPU的深層神經(jīng)網(wǎng)絡(luò)快速訓(xùn)練方法[J]. 薛少飛,宋彥,戴禮榮.  清華大學(xué)學(xué)報(bào)(自然科學(xué)版). 2013(06)
[9]一種基于粒子群優(yōu)化的極限學(xué)習(xí)機(jī)[J]. 王杰,畢浩洋.  鄭州大學(xué)學(xué)報(bào)(理學(xué)版). 2013(01)
[10]基于AUC的分類器評(píng)價(jià)和設(shè)計(jì)綜述[J]. 汪云云,陳松燦.  模式識(shí)別與人工智能. 2011(01)

碩士論文
[1]決策樹(shù)分類算法的研究及其在教學(xué)分析中的應(yīng)用[D]. 劉軍.河海大學(xué) 2006



本文編號(hào)：3553677