【摘要】：目前大部分受限玻爾茲曼機(Restricted Boltzmann machines,RBMs)訓練算法都是以多步Gibbs采樣為基礎的采樣算法.本文針對多步Gibbs采樣過程中出現(xiàn)的采樣發(fā)散和訓練速度過慢的問題,首先,對問題進行實驗描述,給出了問題的具體形式;然后,從馬爾科夫采樣的角度對多步Gibbs采樣的收斂性質進行了理論分析,證明了多步Gibbs采樣在受限玻爾茲曼機訓練初期較差的收斂性質是造成采樣發(fā)散和訓練速度過慢的主要原因;最后,提出了動態(tài)Gibbs采樣算法,給出了對比仿真實驗.實驗結果表明,動態(tài)Gibbs采樣算法可以有效地克服采樣發(fā)散的問題,并且能夠以微小的運行時間為代價獲得更高的訓練精度.

【相似文獻】

相關期刊論文 前10條

1 李彥,王國紅,盧虎;基于Matlab的“Gibbs現(xiàn)象”的仿真研究[J];西安石油學院學報(自然科學版);2000年03期

2 黃靜;馬建華;路利軍;畢一鳴;陳武凡;;基于廣義Gibbs先驗的優(yōu)質PET成像[J];電子學報;2010年04期

3 黃河,李政,倪維斗;Gibbs反應器模型及其計算機實現(xiàn)[J];動力工程;2004年06期

4 ;Cimatron將在德國銷售Gibbs CAM[J];現(xiàn)代制造;2008年40期

5 朱成文;李兵;胡奎;;HMM參數(shù)估計的Gibbs抽樣算法[J];計算機工程與應用;2012年18期

6 馬曉川,侯朝煥,趙榮椿;一種新的紋理圖像Gibbs模型[J];計算機學報;1998年S1期

7 馬建華;黃靜;陳陽;陳凌劍;陳武凡;;基于廣義Gibbs先驗的低劑量X-CT優(yōu)質重建研究[J];計算機工程與應用;2008年16期

8 江貴平;黃鑫;馮衍秋;陳武凡;;一種適用于真實人體數(shù)據(jù)能有效消除Gibbs偽影的MR重建新算法[J];計算機學報;2007年11期

9 周壽軍,梁斌,陳武凡;一種基于模糊Gibbs隨機場的運動估計新算法[J];中國圖象圖形學報;2004年06期

10 馮前進;黃鑫;馮衍秋;;基于Chebyshev多項式的消除Gibbs偽影的快速算法[J];中國圖象圖形學報;2006年08期

相關會議論文 前1條

1 劉文忠;張沅;;貝葉斯方差組分估計中Gibbs鏈的收斂診斷[A];中國青年農業(yè)科學學術年報[C];2002年

相關博士學位論文 前2條

1 林亞忠;基于Gibbs隨機場模型的醫(yī)學圖像分割新算法研究[D];第一軍醫(yī)大學;2004年

2 王秀麗;Gibbs系綜Monte Carlo方法研究流體相平衡[D];天津大學;2004年

相關碩士學位論文 前8條

1 逄榮榮;基于Gibbs抽樣法及模擬過濾法對前饋環(huán)調控速率的估計[D];蘇州大學;2010年

2 惠豐;乙烯—醋酸體系汽液相平衡的Gibbs系綜蒙特卡羅模擬研究[D];天津大學;2012年

3 唐n，

本文編號：2571295