本文選題：深度信念網(wǎng) + 自適應學習率�。� 參考：《自動化學報》2017年08期

【摘要】：針對深度信念網(wǎng)(Deep belief network,DBN)預訓練耗時長的問題,提出了一種基于自適應學習率的DBN(Adaptive learning rate DBN,ALRDBN).ALRDBN將自適應學習率引入到對比差度(Contrastive divergence,CD)算法中,通過自動調(diào)整學習步長來提高CD算法的收斂速度.然后設計基于自適應學習率的權(quán)值訓練方法,通過網(wǎng)絡性能分析給出學習率變化系數(shù)的范圍.最后,通過一系列的實驗對所設計的ALRDBN進行測試,仿真實驗結(jié)果表明,ALRDBN的收斂速度得到了提高且預測精度也有所改善.
[Abstract]:In order to solve the problem of long pre-training time of Deep belief Network (DBN), an adaptive learning rate (DBN(Adaptive learning rate DBN) based on adaptive learning rate (DBN(Adaptive learning rate DBN / ALRDBN) is proposed. The convergence speed of CD algorithm is improved by automatically adjusting the learning step size. Then the weight training method based on adaptive learning rate is designed, and the range of learning rate coefficient is given through network performance analysis. Finally, through a series of experiments to test the designed ALRDBN, the simulation results show that the convergence speed of ALRDBN has been improved and the prediction accuracy has been improved.
【作者單位】： 北京工業(yè)大學信息學部;計算智能與智能系統(tǒng)北京市重點實驗室;
【基金】：國家自然科學基金(61533002,61473034) 國家杰出青年科學基金(61225016) 內(nèi)涵發(fā)展—引進人才科研啟動費資助~~
【分類號】：TP183

【相似文獻】

相關(guān)期刊論文 前10條

1 何可佳;;基于概率的自適應學習預測策略[J];計算機工程;2010年10期

2 劉建偉;孫正康;羅雄麟;;域自適應學習研究進展[J];自動化學報;2014年08期

3 石曉榮,王青,張明廉,畢靜;基于多傳感器數(shù)據(jù)融合的機動目標跟蹤自適應學習方法[J];系統(tǒng)仿真學報;2002年05期

4 姚敏;神經(jīng)網(wǎng)的自適應學習準則及其算法[J];系統(tǒng)工程與電子技術(shù);1995年03期

5 薛羽;莊毅;許斌;張友益;;基于自適應學習群體搜索技術(shù)的集成進化算法[J];系統(tǒng)工程理論與實踐;2014年02期

6 薛羽;莊毅;孟新;張友益;;自適應學習集成優(yōu)化算法及矩陣特征值求解[J];計算機研究與發(fā)展;2013年07期

7 周中良;王陽;何景峰;;基于自適應學習的多傳感器融合時間管理[J];電光與控制;2007年06期

8 崔惠萍;傅鋼善;;基于多Agent的自適應學習系統(tǒng)的研究[J];教育信息化;2006年07期

9 趙永標;胡燕;朱博;;Wasserman自適應學習率算法的改進[J];中國水運(理論版);2006年06期

10 李志聰;鐘紹春;;自適應學習系統(tǒng)中樸素貝葉斯分類的應用研究[J];計算機工程與科學;2009年09期

相關(guān)博士學位論文 前3條

1 劉志勇;基于本體的自適應學習方法及應用研究[D];吉林大學;2010年

2 于淼;復雜非線性系統(tǒng)的自適應學習控制[D];浙江大學;2012年

3 許敏;領域自適應學習算法及其應用研究[D];江南大學;2014年

，

本文編號：1968479