本文選題：隨機權(quán)分布 + 極限學(xué)習(xí)機�。� 參考：《計算機科學(xué)》2016年12期

【摘要】：極限學(xué)習(xí)機是一種訓(xùn)練單隱含層前饋神經(jīng)網(wǎng)絡(luò)的算法,它隨機初始化輸入層的權(quán)值和隱含層結(jié)點的偏置,用分析的方法確定輸出層的權(quán)值。極限學(xué)習(xí)機具有學(xué)習(xí)速度快、泛化能力強的特點。很多研究都用服從[-1,1]區(qū)間均勻分布的隨機數(shù)初始化輸入層權(quán)值和隱含層結(jié)點的偏置,但沒有對這種隨機初始化合理性的研究。用實驗的方法對這一問題進行了研究,分別研究了隨機權(quán)服從均勻分布、高斯分布和指數(shù)分布對極限學(xué)習(xí)機性能的影響。研究發(fā)現(xiàn)隨機權(quán)的分布對極限學(xué)習(xí)機的性能的確有影響,對于不同的問題或不同的數(shù)據(jù)集,服從[-1,1]區(qū)間均勻分布的隨機權(quán)不一定是最優(yōu)的選擇。研究結(jié)論對從事極限學(xué)習(xí)機研究的人員具有一定的借鑒作用。
[Abstract]:Extreme learning machine (LLM) is an algorithm for training single hidden layer feedforward neural network. It initializes the weights of the input layer and the bias of the hidden layer nodes at random, and determines the weight value of the output layer by the analytical method. Extreme learning machine has the characteristics of fast learning speed and strong generalization ability. Many studies have used random numbers uniformly distributed from [-1] interval to initialize the input layer weights and the bias of hidden layer nodes, but there is no study on the rationality of such random initialization. The effects of uniform distribution, Gao Si distribution and exponential distribution on the performance of LLM are studied by means of experiments. It is found that the distribution of random weights does have an effect on the performance of LLM. For different problems or different data sets, the random weight distributed uniformly from [-1] interval is not necessarily the best choice. The conclusion of the study can be used as a reference for the personnel engaged in the research of extreme learning machine.
【作者單位】： 河北省機器學(xué)習(xí)與計算智能重點實驗室河北大學(xué)數(shù)學(xué)與信息科學(xué)學(xué)院;河北大學(xué)計算機科學(xué)與技術(shù)學(xué)院;中國氣象局氣象干部培訓(xùn)學(xué)院河北分院;
【基金】：國家自然科學(xué)基金項目(71371063) 河北省自然科學(xué)基金項目(F2013201220) 河北省高等學(xué)�？茖W(xué)技術(shù)研究重點項目(ZD20131028)資助
【分類號】：TP181

【相似文獻】

相關(guān)期刊論文 前5條

1 張志軍;楊育捷;段新濤;;一種緊湊高效LFSR結(jié)構(gòu)的均勻分布隨機數(shù)產(chǎn)生器[J];新鄉(xiāng)學(xué)院學(xué)報;2014年06期

2 何振峰,史杏榮;隨機二維正態(tài)數(shù)據(jù)的生成[J];微型機與應(yīng)用;1998年06期

3 馬路;石立國;王竹剛;;基于均勻分布隨機數(shù)的誤碼發(fā)生器設(shè)計[J];電子設(shè)計工程;2013年24期

4 宋平;劉恒;;基于聚類與均勻分布的圖像顯著性檢測算法研究[J];微型機與應(yīng)用;2013年03期

5 ;[J];;年期

相關(guān)碩士學(xué)位論文 前1條

1 方園;兩種類均勻分布的統(tǒng)計分析[D];上海師范大學(xué);2014年

，

本文編號：2107853