發(fā)布時間：2022-01-17 00:39

　　近年來,卷積神經(jīng)網(wǎng)絡(luò)（Convolution Neural Network,CNN）在深度學習領(lǐng)域很好地解決了計算機視覺、自然語言處理以及模式識別等相關(guān)問題,并且應用廣泛。卷積神經(jīng)網(wǎng)絡(luò)的模型訓練簡單,但是在應用上卻面臨能耗高且資源需求高的問題。脈沖神經(jīng)網(wǎng)絡(luò)（Spiking Neural Network,SNN）因其能更加真實地對生物神經(jīng)進行仿真,相較于卷積神經(jīng)網(wǎng)絡(luò),它具有高效能的特點,但是該網(wǎng)絡(luò)模型的訓練比較困難。本文提出了一種將卷積神經(jīng)網(wǎng)絡(luò)映射為脈沖神經(jīng)網(wǎng)絡(luò)的方法,其基本思想是將卷積神經(jīng)網(wǎng)絡(luò)與脈沖神經(jīng)網(wǎng)絡(luò)相結(jié)合,把卷積神經(jīng)網(wǎng)絡(luò)模型權(quán)值參數(shù)作用于脈沖神經(jīng)網(wǎng)絡(luò)上,從而跳過了脈沖神經(jīng)網(wǎng)絡(luò)訓練困難的問題,實現(xiàn)在脈沖神經(jīng)網(wǎng)絡(luò)上的仿真。實驗結(jié)果表明,該方法可以使脈沖神經(jīng)網(wǎng)絡(luò)在視覺處理過程中圖像分類的準確率接近于卷積神經(jīng)網(wǎng)絡(luò)。本文的主要工作如下:1.構(gòu)建了具有圖像分類功能的卷積神經(jīng)網(wǎng)絡(luò)模型,對模型中卷積核個數(shù)和池化層的組合進行不同的設(shè)置,將其應用到圖像分類問題上,通過對這些不同的設(shè)置進行實驗并對分類準確率進行分析,得出合理的參數(shù)設(shè)置。2.提出通過卷積神經(jīng)網(wǎng)絡(luò)的映射來實現(xiàn)脈沖神經(jīng)網(wǎng)絡(luò)的視覺處理（圖像... 

【文章來源】：北京化工大學北京市 211工程院校 教育部直屬院校

【文章頁數(shù)】：83 頁

【學位級別】：碩士

【部分圖文】：

圖２．?１?Ｒｏｓｅｎｂｌａｔｔ感知器的計算模型圖??Ｆｉｇｕｒｅ?２．?１?Ｒｏｓｅｎｂｌａｔｔ?Ｐｅｒｃｅｐｔｒｏｎ?Ｃｏｍｐｕｔｉｎｇ?Ｍｏｄｅｌ??

???饋是指對于一個給定的網(wǎng)絡(luò)層來說，它的神經(jīng)元之和相鄰層的神經(jīng)元相連，本層的神??經(jīng)元互不相連，這樣就保證神經(jīng)網(wǎng)絡(luò)中上一層的輸出就是下一層的輸入。網(wǎng)絡(luò)的最上??層是輸出層，輸出層中的每一個神經(jīng)元都與圖像的類別相對應。對于網(wǎng)絡(luò)的輸入來說，??在隱藏層中的神經(jīng)元經(jīng)過計算后結(jié)果被記為￥，然后將其作為下個網(wǎng)絡(luò)層的輸入。在??理想的分類情況下，網(wǎng)絡(luò)的多個輸出中有且只有一個輸入是非０的，該值就代表了輸??入經(jīng)過網(wǎng)絡(luò)處理后的輸出結(jié)果。??：Ｚ〇：；?安??（ｘ〇）?丨：、Ｘ１）…（??圖２．?２多層感知器模型結(jié)構(gòu)圖??Ｆｉｇｕｒｅ?２．?２?Ｍｕｌｔｉｌａｙｅｒ?ｐｅｒｃｅｐｔｒｏｎ?ｍｏｄｅｌ?ｓｔｒｕｃｔｕｒｅ??隱藏層在多層感知器可以根據(jù)自己的需求來增加或者減少隱含層的層數(shù)，可以將??該非線性函數(shù)計算單元置于隱藏層之后，對該層進行相關(guān)運算，從而就實現(xiàn)了對輸入??的更復雜的計算函數(shù)。在現(xiàn)實的實踐中，我們可能會因為需求而建立多個隱藏層ｉｑ，??并且對隱藏層的函數(shù)進行設(shè)計。??２．?１卷積神經(jīng)網(wǎng)絡(luò)??卷積神經(jīng)網(wǎng)絡(luò)是基于對視覺皮層研宄結(jié)果進行發(fā)展而得到的。視覺皮層的各種細??胞構(gòu)成了一個結(jié)構(gòu)復雜的視覺處理系統(tǒng)。而這些視覺皮層的細胞對于視覺接收到的外??界輸入的子區(qū)域是比較敏感的。這些視覺皮層的細胞根據(jù)各自的功能不同被分為兩種??基本類型：簡單型細胞和復雜型細胞。簡單型細胞為了能夠更多的獲取外界信息會盡??可能的響應來自感受野范圍內(nèi)的刺激。而復雜型細胞的接受域相對較大，這就使得它??對來自確切位置的刺激具有局部不變性［４４］。卷積神經(jīng)網(wǎng)絡(luò)則通過卷積核進行局部連接??和對權(quán)值進行共享的方式，來大大減少權(quán)值參數(shù)的數(shù)量，因此也減少

然后依次傳遞給網(wǎng)絡(luò)的其他層，在網(wǎng)絡(luò)層中完成相應的計??算處理后輸出，該輸出會被作為下一層的輸入，進行傳遞。卷積神經(jīng)網(wǎng)絡(luò)中的神經(jīng)元??只和相鄰的上層和下層中的相對應的神經(jīng)元相連，同層中的神經(jīng)元之間互不相連。神??經(jīng)元的這種連接方式就可以就達到了局部的感知效果，而神經(jīng)元則可以通過這種結(jié)構(gòu)??從原始的輸入圖像中提取出一些對于圖像處理來說比較傳統(tǒng)的特征，比如邊緣特征，??方向特征等。同時這些得到的特征也會被更高層的神經(jīng)元利用［４５］。經(jīng)過局部特征提取??的到的特征，是可以用來表征整個圖像的。圖２．?３為圖像分類功能的卷積神經(jīng)網(wǎng)絡(luò)結(jié)??構(gòu)簡圖，該圖中卷積層與池化層相交替，這樣做的優(yōu)勢是既可以呈遞增的狀態(tài)得到特??征圖，也能夠通過池化來實現(xiàn)對輸出特征的降維。??Ｃｉ＾Ｓ＊２Ｓ？６４?Ｃ２：１０？?１０＊６４?Ｓ２：５？Ｊ＊６４?Ｃ３：ｌ＊ｌ＊６４?ｉｐ２：Ｗ??ａ?Ｉ?ｆｐ?．??！?１…??Ｆｕｌｌ?Ｃ？ｏｎｅｃｔＫ＞ｎ?：??Ｃｃｍｖｄｕｔｉｏｎ?Ｃｏｎｖｏｌｕｔｋｍ?Ｐｏｄ?Ｃ＾ｓｎｖｏｌｉｒｔｉｏｎ?令１??圖２．?３卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)簡圖??Ｆｉｇｕｒｅ?２．?３?Ｃｏｎｖｏｌｕｔｉｏｎａｌ?ｎｅｕｒａｌ?ｎｅｔｗｏｒｋ?ｓｔｒｕｃｔｕｒｅ?ｄｉａｇｒａｍ??在進行卷積神經(jīng)網(wǎng)絡(luò)模型訓練時，通過使用前向傳播和反向傳播算法來進行對模??型中權(quán)值參數(shù)的更新。這樣就可以自己通過計算實現(xiàn)特征的自動提取，共享權(quán)重使得??網(wǎng)絡(luò)子空間共用相同的權(quán)重，這樣不僅減少了網(wǎng)絡(luò)參數(shù)的數(shù)目，縮減網(wǎng)絡(luò)的計算量，??還進一步提高了網(wǎng)絡(luò)的效率［４＼因此，在卷積神經(jīng)網(wǎng)絡(luò)中最為重要的網(wǎng)絡(luò)結(jié)構(gòu)層是卷??積層和池化層，下面對卷積層與池化層進行相

【參考文獻】：
期刊論文
[1]脈沖響應神經(jīng)網(wǎng)絡(luò)的構(gòu)建[J]. 安全,梁川,吳平.  信息與控制. 2009(04)
[2]基于HMM-FNN模型的復雜動態(tài)手勢識別[J]. 王西穎,戴國忠,張習文,張鳳軍.  軟件學報. 2008(09)

碩士論文
[1]無監(jiān)督特征學習結(jié)合神經(jīng)網(wǎng)絡(luò)應用于圖像識別[D]. 敖道敢.華南理工大學 2014



本文編號：3593709