由于經典的人工神經網絡的訓練時間過長,導致其應用范圍受到了限制。極限學習機（Extreme Learning Machine,ELM）的問世,一舉打破這一僵局,即ELM能夠在保證相當的分類精度前提下,可大幅度縮減前饋神經網絡的訓練時間。然而,與BP（Back Propagation,BP）神經網絡一樣,雖然都具備全局逼近能力,但當面臨數據樣本相對復雜的情況時,極限學習機為了保證學習能力,就需要增加隱節(jié)點個數,如此必然導致網絡結構的復雜性。隨機投影方法是目前處理海量、高維數據的有效工具之一。因此本文考慮在傳統(tǒng)神經網絡基礎上借鑒極限學習機的快速學習思想,設計出更加快速的人工神經網絡。本文以平面高斯網絡（Plane-Gaussian,PG）為主要研究對象,由于PG隱層參數是通過聚類算法獲得,網絡訓練時間較長,且易陷入局部最優(yōu)解。針對它的缺陷,本文提出一種改進算法,即隨機投影下的平面高斯神經網絡（Plane-Gaussian Network Based on Random Projection,RandPG）,并在網絡結構上進一步優(yōu)化。本文的研究工作主要包括以下幾點:（1）借鑒極限學習機的網絡... 

【文章來源】：南京林業(yè)大學江蘇省

【文章頁數】：54 頁

【學位級別】：碩士

【部分圖文】：

平面高斯函數的三維可視化

提出了一種雙隱層 RandPG 網絡(Two-hidden-layer Rand TRandPG 網絡的基本原理，以及與 RandPG 算法的對比實本原理 Tateishi[53]在理論和實驗上證明了：在同等實驗條件下，雙隱層前向神經網絡更少的隱層神經元個數來達到理想的性( N / 2 + 3)個隱節(jié)點就可以訓練N 個訓練樣本，從而獲得在 2002 年又進一步證明了對于 個訓練樣本，雙隱層前個隱層神經元就可以訓練實現(xiàn)任意小的訓練誤差。網絡的這種優(yōu)勢啟發(fā)我們將 ELM 算法的特點，即隨機產前向網絡的框架中。對于這個雙隱層前向神經網絡，它的與第一個隱層間的權值及第一個隱層的偏置隨機產生。第層與第二個隱層之間的權值及第二個隱層的偏置是通過下。由于這個算法是基于雙隱層前向網絡架構的 RandPG 的隱層 RandPG(Two-hidden-layer RandPG, TRandPG)。TRan

圖 5-2 TRandPG 的算法流程Fig.5-2 Workflow of TRandPGN 個獨立的樣本數據( , )i ix t (i 1, 2, , N )，TRandPG 中共有 2L 個活函數用 g ( x )表示。為訓練 TRandPG 網絡，我們首先隨機初始間的連接權值矩陣W和第一個隱層的偏置矩陣B ，然后按照公式與輸出層之間的權值矩陣β。根據圖 5-2 中 TRandPG 的算法流程H 1 1g ( W H +B )H 接第一個隱層與第二個隱層的權值矩陣。我們假設第一個隱層量的神經元，那么 就是一個方陣。H表示的是所有 N 個樣本陣。矩陣1B 代表第二個隱層的偏置，矩陣1H 代表第二個隱層的期隱層的期望輸出可按下式計算：+1H =Tβ β的 Moore-Penrose 廣義逆矩陣。+β 的計算方式與前面所討論的H，那么1=( )+ T Tβ β β β ；或者如果Tββ 滿秩，1= ( )+ T T β β ββ 。然后

【參考文獻】：
期刊論文
[1]隨機投影下的Plane-Gaussian人工神經網絡[J]. 馮哲,楊緒兵,張福全.  數據采集與處理. 2017(02)
[2]基于Plane-Gaussian神經網絡的網絡流狀態(tài)監(jiān)測[J]. 楊緒兵,馮哲,顧一凡,薛暉.  計算機應用. 2017(03)

碩士論文
[1]基于超平面原型的聚類算法及相應擴展神經網絡的研究[D]. 王穎.南京航空航天大學 2006



本文編號：3250794