隨著人工神經(jīng)網(wǎng)絡(luò)的快速發(fā)展,受生物啟發(fā)的脈沖神經(jīng)網(wǎng)絡(luò)近些年來(lái)受到越來(lái)越多的關(guān)注。由更具生物真實(shí)性的脈沖神經(jīng)元模型為基本單元構(gòu)成的脈沖神經(jīng)網(wǎng)絡(luò),應(yīng)用脈沖序列表示與處理信息,這種編碼方式整合了信息的多個(gè)方面,如時(shí)間、頻率和相位等。生物大腦具有多層次的網(wǎng)絡(luò)結(jié)構(gòu),這種結(jié)構(gòu)可以對(duì)信號(hào)的特征進(jìn)行逐層變換和抽象,根據(jù)這種思想,研究者提出了具有深層結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)及其深度學(xué)習(xí)方法。結(jié)合脈沖神經(jīng)網(wǎng)絡(luò)的信息處理方式與深度神經(jīng)網(wǎng)絡(luò)的計(jì)算模式,構(gòu)造具有廣泛適用性的脈沖神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)方法,將是機(jī)器學(xué)習(xí)研究中極富挑戰(zhàn)性的任務(wù)。由于脈沖神經(jīng)元內(nèi)部狀態(tài)不可微的性質(zhì)使得在傳統(tǒng)神經(jīng)網(wǎng)絡(luò)上應(yīng)用很成功的基于微分的優(yōu)化方法不再適用于脈沖神經(jīng)網(wǎng)絡(luò),因此,盡管脈沖神經(jīng)網(wǎng)絡(luò)在理論上被認(rèn)為比傳統(tǒng)神經(jīng)網(wǎng)絡(luò)具有更高的計(jì)算能力,但如何有效訓(xùn)練深度脈沖神經(jīng)網(wǎng)絡(luò)仍是一個(gè)難題。一些脈沖神經(jīng)網(wǎng)絡(luò)使用反向傳播實(shí)現(xiàn)了深度學(xué)習(xí),但顯而易見(jiàn)的是它們?nèi)匀粺o(wú)法避免反向傳播算法在生物上不合理的權(quán)值運(yùn)輸問(wèn)題;更多的深度脈沖神經(jīng)網(wǎng)絡(luò)是從傳統(tǒng)神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)換而來(lái),但在轉(zhuǎn)換過(guò)程中難免會(huì)出現(xiàn)精度下降、神經(jīng)元欠激活或者過(guò)激活、負(fù)值無(wú)法表示和增加網(wǎng)絡(luò)復(fù)雜度等一系列問(wèn)題。針對(duì)上述...

【文章頁(yè)數(shù)】：61 頁(yè)

【學(xué)位級(jí)別】：碩士

【部分圖文】：

圖2-4不同學(xué)習(xí)

西北師范大學(xué)碩士學(xué)位論文202.5.4實(shí)驗(yàn)參數(shù)分析在本節(jié)，我們用不同的學(xué)習(xí)率、脈沖發(fā)放頻率inr和脈沖序列長(zhǎng)度來(lái)測(cè)試并比較本章所研究的DLSTIP算法及其簡(jiǎn)化算法SDLSTIP的學(xué)習(xí)性能。首先，分析不同的學(xué)習(xí)率對(duì)研究的DLSTIP算法及其簡(jiǎn)化算法SDLSTIP的學(xué)習(xí)性能的影響。圖....

圖2-5在不同脈沖

第2章基于脈沖序列內(nèi)積的DSNN監(jiān)督學(xué)習(xí)算法21然后，分析不同的輸入脈沖頻率inr對(duì)研究的DLSTIP算法及其簡(jiǎn)化算法SDLSTIP的學(xué)習(xí)性能的影響。實(shí)驗(yàn)中輸入脈沖序列的發(fā)放頻率以間隔10Hz從10Hz增加到100Hz，其他設(shè)置保持不變。圖2-5顯示了DLSTIP算法及其簡(jiǎn)化算法....

圖2-6在不同脈沖序

西北師范大學(xué)碩士學(xué)位論文22脈沖序列長(zhǎng)度是評(píng)估一個(gè)算法性能的重要參考因素，不同的脈沖序列長(zhǎng)度能測(cè)試網(wǎng)絡(luò)解決復(fù)雜時(shí)空模式學(xué)習(xí)的能力。圖2-6顯示了本章研究的DLSTIP算法及其簡(jiǎn)化算法SDLSTIP在不同的脈沖序列長(zhǎng)度下的學(xué)習(xí)結(jié)果。在實(shí)驗(yàn)中，脈沖序列以50ms的間隔從50ms增加到....

圖3-4SDNFA算法的脈

第3章基于反饋對(duì)齊機(jī)制的DSNN監(jiān)督學(xué)習(xí)算法33穩(wěn)定。經(jīng)過(guò)54個(gè)學(xué)習(xí)周期，學(xué)習(xí)精度C達(dá)到1.0。學(xué)習(xí)之前和之后的突觸權(quán)值分別在圖3-4（c）、（d）中示出。這些學(xué)習(xí)結(jié)果表明，使用研究的SDNFA算法，脈沖神經(jīng)網(wǎng)絡(luò)可以成功學(xué)習(xí)輸出所需的脈沖序列。（a）脈沖序列學(xué)習(xí)過(guò)程（c）學(xué)習(xí)前的....

本文編號(hào)：3925266