基于FPGA的人工神經(jīng)網(wǎng)絡(luò)的研究與實現(xiàn)
本文關(guān)鍵詞:基于FPGA的人工神經(jīng)網(wǎng)絡(luò)的研究與實現(xiàn),,由筆耕文化傳播整理發(fā)布。
【摘要】:人工神經(jīng)網(wǎng)絡(luò)ANNs(Artificial Neural Network)是一個模仿人腦神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和關(guān)系、由物理可實現(xiàn)的大量相互連接的處理單元組成的系統(tǒng)。如今,人工神經(jīng)網(wǎng)絡(luò)已經(jīng)在多個領(lǐng)域得到廣泛應用,比如信號處理、醫(yī)療衛(wèi)生、控制系統(tǒng)、模式識別等。我們常見的實現(xiàn)神經(jīng)網(wǎng)絡(luò)的方法都是基于軟件的。由于軟件運算速度慢,所以要提出一種能夠滿足實時運算要求的新的神經(jīng)網(wǎng)絡(luò)實現(xiàn)方法。本文實現(xiàn)了一種基于FPGA的神經(jīng)網(wǎng)絡(luò),它的特點是并行運算,運算速度快。該基于硬件實現(xiàn)的神經(jīng)網(wǎng)絡(luò)體現(xiàn)出神經(jīng)網(wǎng)絡(luò)固有的并行處理特性,處理速度得到大大提升。本論文首先介紹了如今人工神經(jīng)網(wǎng)絡(luò)研究的背景和國內(nèi)外研究現(xiàn)狀,以及人工神經(jīng)網(wǎng)絡(luò)硬件實現(xiàn)的方法和意義。然后,對典型的BP神經(jīng)網(wǎng)絡(luò)算法進行研究,包括具體的算法實現(xiàn)步驟。BP算法的實質(zhì)是采用梯度下降法來不斷修改神經(jīng)元之間的聯(lián)接權(quán)值,以此達到求解最優(yōu)解的目的。由于本設(shè)計主要以26個英文大寫字母的實時識別為應用背景,所以在介紹硬件實現(xiàn)神經(jīng)網(wǎng)絡(luò)需要考慮的問題中,對字母圖像的數(shù)字化過程也予以了考慮。隨后對硬件實現(xiàn)整個BP神經(jīng)網(wǎng)絡(luò)進行模塊劃分,并對各個模塊進行硬件設(shè)計。其中,激勵函數(shù)的硬件實現(xiàn)是基于FPGA的神經(jīng)網(wǎng)絡(luò)硬件設(shè)計的重點。本論文選用得到廣泛運用的Sigmoid函數(shù)作為BP神經(jīng)網(wǎng)絡(luò)的激活函數(shù),并用查找表和分段線性函數(shù)逼近相結(jié)合的方法在FPGA上實現(xiàn)了Sigmoid函數(shù)。除此之外,本文在設(shè)計整個神經(jīng)網(wǎng)絡(luò)的體系結(jié)構(gòu)中采用了一種脈動陣列結(jié)構(gòu)。該結(jié)構(gòu)體現(xiàn)出神經(jīng)網(wǎng)絡(luò)的并行特性,它的硬件實現(xiàn)能夠使得整個網(wǎng)絡(luò)的運算處理速度得到很大的提升。然后,用Verilog硬件描述語言對設(shè)計好的神經(jīng)網(wǎng)絡(luò)進行硬件實現(xiàn)。之后,使用ModelsimSE 6.2仿真軟件和Xilinx公司的Vivado集成開發(fā)工具對設(shè)計進行功能仿真和綜合優(yōu)化。在誤差范圍內(nèi),硬件功能實現(xiàn)正確。并且,設(shè)計對FPGA的資源利用率也比較低,在10%以下。最后,通過板級驗證,整個硬件網(wǎng)絡(luò)的最高時鐘頻率可以達到70MHz,可以滿足26個英文大寫字母實時識別的要求。因此,本文設(shè)計的基于FPGA的人工神經(jīng)網(wǎng)絡(luò)達到了設(shè)計的初衷。
【關(guān)鍵詞】:人工神經(jīng)網(wǎng)絡(luò) 激活函數(shù) FPGA 硬件實現(xiàn)
【學位授予單位】:西安電子科技大學
【學位級別】:碩士
【學位授予年份】:2016
【分類號】:TP183
【目錄】:
- 摘要5-6
- ABSTRACT6-11
- 符號對照表11-12
- 縮略語對照表12-16
- 第一章 緒論16-22
- 1.1 課題研究背景及意義16-17
- 1.2 神經(jīng)網(wǎng)絡(luò)相關(guān)技術(shù)及發(fā)展現(xiàn)狀17-19
- 1.2.1 神經(jīng)網(wǎng)絡(luò)技術(shù)的研究歷史和發(fā)展現(xiàn)狀17-18
- 1.2.2 可重構(gòu)技術(shù)發(fā)展現(xiàn)狀18
- 1.2.3 FPGA的發(fā)展現(xiàn)狀18-19
- 1.3 本課題的主要工作19
- 1.4 論文結(jié)構(gòu)及內(nèi)容安排19-22
- 第二章 神經(jīng)網(wǎng)絡(luò)及其實現(xiàn)技術(shù)22-38
- 2.1 神經(jīng)元模型22-24
- 2.1.1 生物神經(jīng)元模型22-23
- 2.1.2 人工神經(jīng)元數(shù)學模型23-24
- 2.2 神經(jīng)網(wǎng)絡(luò)模型24-33
- 2.2.1 BP神經(jīng)網(wǎng)絡(luò)介紹24-25
- 2.2.2 BP神經(jīng)網(wǎng)絡(luò)算法25-30
- 2.2.3 BP算法流程30-31
- 2.2.4 BP神經(jīng)網(wǎng)絡(luò)的改進31-33
- 2.3 神經(jīng)網(wǎng)絡(luò)學習模式33-34
- 2.3.1 有監(jiān)督學習33
- 2.3.2 無監(jiān)督學習33
- 2.3.3 離線(Off-Line)學習33-34
- 2.3.4 在線(On-Line)學習34
- 2.4 神經(jīng)網(wǎng)絡(luò)實現(xiàn)技術(shù)研究的內(nèi)容和價值34
- 2.5 神經(jīng)網(wǎng)絡(luò)實現(xiàn)技術(shù)分類34-37
- 2.5.1 神經(jīng)網(wǎng)絡(luò)的VLSI實現(xiàn)35-37
- 2.5.2 神經(jīng)網(wǎng)絡(luò)的分子/化學實現(xiàn)37
- 2.5.3 神經(jīng)網(wǎng)絡(luò)的光學實現(xiàn)37
- 2.6 本章小結(jié)37-38
- 第三章 基于FPGA的神經(jīng)網(wǎng)絡(luò)的設(shè)計與實現(xiàn)38-60
- 3.1 基于FPGA的神經(jīng)網(wǎng)絡(luò)設(shè)計與實現(xiàn)需要考慮的問題38-42
- 3.1.1 樣本值的選取38-39
- 3.1.2 初始權(quán)值的選取39
- 3.1.3 學習率的選取39
- 3.1.4 期望誤差的選取39
- 3.1.5 訓練次數(shù)的選取39-40
- 3.1.6 數(shù)據(jù)表示規(guī)則40-41
- 3.1.7 激勵函數(shù)的實現(xiàn)方法41-42
- 3.2 基于FPGA的動態(tài)可重構(gòu)技術(shù)42
- 3.3 基于FPGA的神經(jīng)網(wǎng)絡(luò)的模塊劃分42-44
- 3.3.1 BP算法描述43
- 3.3.2 模塊劃分43-44
- 3.4 基于FPGA的神經(jīng)網(wǎng)絡(luò)各模塊的設(shè)計實現(xiàn)44-51
- 3.4.1 MAC模塊的設(shè)計實現(xiàn)44-45
- 3.4.2 WU單元的設(shè)計實現(xiàn)45-46
- 3.4.3 神經(jīng)網(wǎng)絡(luò)激活函數(shù)的硬件設(shè)計實現(xiàn)46-48
- 3.4.4 神經(jīng)網(wǎng)絡(luò)激活函數(shù)的導數(shù)的設(shè)計實現(xiàn)48-50
- 3.4.5 神經(jīng)網(wǎng)絡(luò)FSM的設(shè)計50
- 3.4.6 中間數(shù)據(jù)存儲模塊TM50-51
- 3.5 基于FPGA的BP神經(jīng)網(wǎng)絡(luò)的整體設(shè)計51-56
- 3.5.1 映射算法51-54
- 3.5.2 神經(jīng)網(wǎng)絡(luò)體系結(jié)構(gòu)設(shè)計54-56
- 3.6 BP神經(jīng)網(wǎng)絡(luò)算法的訓練流程56-58
- 3.7 本章小結(jié)58-60
- 第四章 基于FPGA的神經(jīng)網(wǎng)絡(luò)的實現(xiàn)結(jié)果與分析60-70
- 4.1 功能仿真與誤差分析60-63
- 4.1.1 MAC模塊仿真結(jié)果與誤差分析60-61
- 4.1.2 Sigmoid模塊仿真結(jié)果與誤差分析61-62
- 4.1.3 WU模塊仿真結(jié)果與誤差分析62-63
- 4.2 邏輯綜合與實現(xiàn)63-68
- 4.2.1 邏輯綜合63-65
- 4.2.2 時序報告與分析65-68
- 4.2.3 板級驗證68
- 4.3 性能評估68
- 4.4 本章小結(jié)68-70
- 第五章 總結(jié)與展望70-72
- 5.1 總結(jié)70
- 5.2 展望70-72
- 參考文獻72-74
- 致謝74-76
- 作者簡介76-77
【參考文獻】
中國期刊全文數(shù)據(jù)庫 前10條
1 毛健;趙紅東;姚婧婧;;人工神經(jīng)網(wǎng)絡(luò)的發(fā)展及應用[J];電子設(shè)計工程;2011年24期
2 馮志力;;人工神經(jīng)網(wǎng)絡(luò)技術(shù)實現(xiàn)的研究現(xiàn)狀[J];廣西輕工業(yè);2011年11期
3 薛維琴;李莉華;戴明;;基于FPGA的人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)的實現(xiàn)方法[J];電子設(shè)計工程;2010年09期
4 陳曉畋;韓愛芳;;基于FPGA的可重構(gòu)計算技術(shù)研究[J];計算機與信息技術(shù);2010年04期
5 陳明忠;;BP神經(jīng)網(wǎng)絡(luò)訓練算法的分析與比較[J];科技廣場;2010年03期
6 盛榮菊;馬建偉;;人工神經(jīng)網(wǎng)絡(luò)FPGA硬件實現(xiàn)的研究進展[J];電氣自動化;2009年05期
7 李利歌;閻保定;侯忠;;基于FPGA的神經(jīng)網(wǎng)絡(luò)硬件可重構(gòu)實現(xiàn)[J];河南科技大學學報(自然科學版);2009年01期
8 張智明;張仁杰;;神經(jīng)網(wǎng)絡(luò)激活函數(shù)及其導數(shù)的FPGA實現(xiàn)[J];現(xiàn)代電子技術(shù);2008年18期
9 林祥金;張志利;朱智;;人工神經(jīng)網(wǎng)絡(luò)FPGA實現(xiàn)研究進展與發(fā)展趨勢[J];控制工程;2007年S3期
10 李昂;王沁;李占才;萬勇;;基于FPGA的神經(jīng)網(wǎng)絡(luò)硬件實現(xiàn)方法[J];北京科技大學學報;2007年01期
本文關(guān)鍵詞:基于FPGA的人工神經(jīng)網(wǎng)絡(luò)的研究與實現(xiàn),由筆耕文化傳播整理發(fā)布。
本文編號:453255
本文鏈接:http://www.sikaile.net/kejilunwen/zidonghuakongzhilunwen/453255.html