【摘要】：全卷積神經(jīng)網(wǎng)絡(luò)在計算機(jī)視覺應(yīng)用中普遍存在,例如物體檢測,語義/圖像分割以及可以學(xué)習(xí)在語音、圖像、視頻和文本等多個應(yīng)用領(lǐng)域中自動創(chuàng)建標(biāo)記數(shù)據(jù)集的生成性對抗網(wǎng)絡(luò)。在一個全卷積網(wǎng)絡(luò)中,傳統(tǒng)卷積層和反卷積層都是計算復(fù)雜度的主要來源。然而,早期的深度學(xué)習(xí)加速器設(shè)計主要關(guān)注于卷積神經(jīng)網(wǎng)絡(luò)的優(yōu)化,對于反卷積層的加速研究關(guān)注較少。目前的研究工作中,一種較為常見的方法是設(shè)計獨立的計算資源去處理反卷積層,但是這種方式會引起相當(dāng)大的硬件資源開銷。在本文的研究中,對于反卷積層的加速設(shè)計進(jìn)行了深入的探索。對于反卷積層的硬件加速器進(jìn)行了深入的探索,最大化的利用廣泛使用的卷積加速器架構(gòu)實現(xiàn)反卷積的加速,在卷積加速器的基礎(chǔ)上實現(xiàn)了全卷積神經(jīng)網(wǎng)絡(luò)的加速。我們重新優(yōu)化了一維(點積)處理單元陣列和常規(guī)二維處理單元陣列的傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)加速器架構(gòu)。對于一維陣列,本文提出一種計算模型將反卷積映射到加速器,其在一組代表性的研究應(yīng)用中可實現(xiàn)1.6~3.9倍的加速,并且將能耗降低41.7%~72.3%。對于二維處理單元陣列,通過利用反卷積核局部性,該架構(gòu)將片上存儲通信的消耗從24.79 GB減少到6.56 GB。與以往的反卷積加速設(shè)計方案相比,所提出的加速器在不同的基準(zhǔn)應(yīng)用中取得了1.3~2.7倍的加速并且將能耗降低了15.6%~63.5%。本文進(jìn)而提出了一種新穎的反卷積層加速實現(xiàn)方案,完全采用軟件的轉(zhuǎn)換方式,這種方式重組了反卷積層的計算流程,把反卷積核拆分并轉(zhuǎn)化成多個小核,從而把反卷積運算視為卷積操作來實現(xiàn)。這種方案在不增加任何硬件修改的前提下,只利用現(xiàn)有CNN加速器來加速反卷積運算。所提出的數(shù)據(jù)流在一維陣列和常規(guī)二維陣列架構(gòu)上實現(xiàn),在一組基準(zhǔn)應(yīng)用中實現(xiàn)了2.4~4.3倍的性能加速并且將能耗降低了27.7%~54.5%。
【圖文】：

第二章 神經(jīng)網(wǎng)絡(luò)及加速器紹了深度學(xué)習(xí)中的基礎(chǔ)神經(jīng)網(wǎng)絡(luò)算法以及基礎(chǔ)人工神經(jīng)網(wǎng)絡(luò)，接著比較了普通卷積映射反卷積的兩款加速器平臺（一維點積構(gòu)。經(jīng)網(wǎng)絡(luò)包含了輸入層、隱藏層以及輸出層，元如圖 2.1 所示[25]，對應(yīng)的計算公式為（2個輸入值，每個輸入值都有對應(yīng)的權(quán)重值（元的輸出是同一時刻在多個輸入共同作用（的那樣。

絡(luò)個神經(jīng)網(wǎng)絡(luò)包含了輸入層、隱藏層以及輸出層，每一層本單元如圖 2.1 所示[25]，，對應(yīng)的計算公式為（2.1）。每2等多個輸入值，每個輸入值都有對應(yīng)的權(quán)重值（W）與神經(jīng)元的輸出是同一時刻在多個輸入共同作用（求和））描述的那樣。圖 2. 1 人工神經(jīng)網(wǎng)絡(luò)基本單元模型Fig. 2.1 The basic unit model of artificial neural networks
【學(xué)位授予單位】：合肥工業(yè)大學(xué)
【學(xué)位級別】：碩士
【學(xué)位授予年份】：2019
【分類號】：TP183;TP332

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 肖翱;徐楓;雍俊海;施侃樂;;針對虛擬現(xiàn)實眼鏡的近/遠(yuǎn)視反卷積矯正算法[J];計算機(jī)輔助設(shè)計與圖形學(xué)學(xué)報;2017年07期

2 成謝鋒;陳鶴鳴;馬勇;黃勇林;;混沌卷積混合信號的預(yù)測重構(gòu)盲反卷積方法[J];智能系統(tǒng)學(xué)報;2007年04期

3 劉明亮,高劍;基于改進(jìn)的迭代增量頻域反卷積濾波器的圖像復(fù)原[J];電子學(xué)報;2004年12期

4 楊梅;反卷積技術(shù)及其在工程中的應(yīng)用[J];成都電子機(jī)械高等專科學(xué)校學(xué)報;1999年03期

5 王寶祥;;時域數(shù)字反卷積[J];自動化技術(shù)與應(yīng)用;1985年04期

6 劉明亮;施正豪;;用補償法獲得數(shù)字反卷積穩(wěn)定解[J];電子測量與儀器學(xué)報;1987年01期

7 王萬樹,孟衛(wèi)林;頻域數(shù)字反卷積新的迭代法[J];計量學(xué)報;1988年02期

8 張軼文;;反卷積法用于單光子發(fā)射計算機(jī)層析X射線攝影(SPECT)中散射補償與窗減法技術(shù)的比較[J];國外醫(yī)學(xué).生物醫(yī)學(xué)工程分冊;1988年04期

9 孫圣和,鄭福春;一種改進(jìn)的數(shù)字反卷積方程[J];電子學(xué)報;1989年01期

10 孫圣和,鄭福春;數(shù)字反卷積問題的Prony擬合法[J];電子學(xué)報;1989年02期

相關(guān)會議論文 前10條

1 吳新星;李明;李目海;單佩韋;;網(wǎng)絡(luò)微積分中最小加反卷積的研究[A];2008'中國信息技術(shù)與應(yīng)用學(xué)術(shù)論壇論文集（一）[C];2008年

2 李棟棟;郭學(xué)彬;瞿安連;徐濤;;應(yīng)用三維熒光反卷積顯微技術(shù)觀察活體細(xì)胞[A];中國生理學(xué)會第21屆全國代表大會暨學(xué)術(shù)會議論文摘要匯編[C];2002年

3 熊俊;李棟棟;瞿安連;;活體細(xì)胞四維圖像科學(xué)可視化方法的研究[A];中國生物醫(yī)學(xué)工程學(xué)會第六次會員代表大會暨學(xué)術(shù)會議論文摘要匯編[C];2004年

4 李娜;林建恒;孫軍平;江鵬飛;衣雪娟;蘭華林;;基于反卷積波束形成的船噪聲信噪比估計[A];2019年全國聲學(xué)大會論文集[C];2019年

5 吳義芳;湯俊雄;趙奕平;鄭樂民;;一種高分辨譜方法的建議——反卷積法[A];第五屆全國基礎(chǔ)光學(xué)學(xué)術(shù)報告會和交叉科學(xué)中的光學(xué)問題討論會論文集[C];1991年

6 李育杉;戴憲華;劉軍;;一種時變MIMO系統(tǒng)盲反卷積模型[A];第十屆全國信號處理學(xué)術(shù)年會（CCSP-2001）論文集[C];2001年

7 齊誠;王偉君;陳棋福;劉寧;;反卷積類干涉法對建筑物振動特性的研究[A];中國地球物理·2009[C];2009年

8 李棟棟;郭學(xué)彬;瞿安連;徐濤;;三維反卷積熒光顯微圖像恢復(fù)方法比較[A];第九次全國生物物理大會學(xué)術(shù)會議論文摘要集[C];2002年

9 謝旭飛;樊鐵栓;陳金象;袁熙;張興;李湘慶;;聚變中子譜儀液體閃爍體探測器的γ刻度及能譜反卷積研究[A];第十四屆全國核物理大會暨第十屆會員代表大會論文集[C];2010年

10 邢樹果;蘇彥;封劍青;李俊鐸;薛喜平;;基于最大熵方法月球表面亮溫度數(shù)據(jù)處理模擬[A];第十屆全國月球科學(xué)與比較行星學(xué)隕石學(xué)與天體化學(xué)學(xué)術(shù)研討會會議論文集[C];2012年

相關(guān)博士學(xué)位論文 前7條

1 盧憲凱;基于深度學(xué)習(xí)的目標(biāo)跟蹤研究[D];上海交通大學(xué);2018年

2 任冬偉;面向盲反卷積的模糊核估計與圖像復(fù)原方法研究[D];哈爾濱工業(yè)大學(xué);2017年

3 婁帥;多尺度變換域圖像反卷積理論研究[D];哈爾濱工業(yè)大學(xué);2010年

4 孫小君;最優(yōu)和自校正多傳感器信息融合白噪聲反卷積估值器[D];黑龍江大學(xué);2010年

5 羅潔;基于逆問題的膜片鉗新技術(shù)研究[D];華中科技大學(xué);2012年

6 楊航;圖像反卷積算法研究[D];吉林大學(xué);2012年

7 李剛;航空成像去運動模糊技術(shù)研究[D];中國科學(xué)院研究生院（長春光學(xué)精密機(jī)械與物理研究所）;2011年

相關(guān)碩士學(xué)位論文 前10條

1 涂凱杰;基于傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)處理器的反卷積層加速研究[D];合肥工業(yè)大學(xué);2019年

2 郭成雯;聲學(xué)成像優(yōu)化中的信號處理研究[D];南京大學(xué);2019年

3 夏一鳴;基于反卷積的掃描電化學(xué)成像去拖尾算法[D];東北師范大學(xué);2018年

4 郭喬鶴;基于雙線陣的船噪聲信號被動檢測技術(shù)研究[D];哈爾濱工程大學(xué);2018年

5 吳小杰;基于反卷積網(wǎng)絡(luò)的圖像去噪及分類方法[D];長安大學(xué);2018年

6 陳才慧;基于傅里葉變換的快速迭代收縮閾值反卷積聲源識別算法研究[D];重慶大學(xué);2018年

7 王丙付;人臉識別中的眼鏡遮擋問題研究[D];合肥工業(yè)大學(xué);2017年

8 孫艷茹;復(fù)雜場景下行人檢測算法研究[D];北方工業(yè)大學(xué);2018年

9 周照靜;反卷積試井分析技術(shù)研究與應(yīng)用[D];中國石油大學(xué)(華東);2015年

10 袁雪寒;基于反卷積網(wǎng)絡(luò)的圖像模式學(xué)習(xí)及應(yīng)用[D];華南理工大學(xué);2016年

本文編號：2665922