深度學習模型加速與嵌入式實現
發(fā)布時間:2022-01-22 14:46
深度學習圖像處理技術是如今最受學術界、工業(yè)界關注的技術之一,對各種復雜的圖像任務都有良好表現。但是一般的深度學習模型因為計算耗時長的特點,無法直接部署到嵌入式終端設備中,尤其無法應用在需要實時響應的場景中。如何在保證精度可靠性的情況下提高模型推理速度對促進深度學習圖像處理技術的廣泛應用具有重要意義。本文針對模型推理加速方法展開了詳細深入的研究。針對深度學習模型在嵌入式設備上推理過程耗時過長的問題,在傳統(tǒng)數據驅動型通道重要性評價方式的基礎上,提出了基于灰色關聯(lián)分析的深度學習模型通道裁剪方法;诨疑P聯(lián)分析法依次將每個通道作為參考序列計算獲得各通道相對于該層其他通道的平均關聯(lián)程度的量化值,通道的重要程度與該值的大小成反比,即量化值越大,參考序列提取的特征與其他通道越相似,參考序列對應的卷積核通道重要程度越低,在裁剪過程中可優(yōu)先裁剪。實驗表明,該方法將VGG模型在嵌入式設備上的單次推理時間從266ms降低為95ms,且精度只降低1.9%。針對單精度模型推理存在加速上限的問題,在傳統(tǒng)線性量化的基礎之上,提出了一種基于KL散度的最佳量化邊界選取方法,并使用ADMM對模型權值參數進行量化。利用K...
【文章來源】:江南大學江蘇省 211工程院校 教育部直屬院校
【文章頁數】:64 頁
【學位級別】:碩士
【部分圖文】:
FasterRCNN網絡
真實框、預測框、回歸框
第二章目標檢測算法原理9圖2-3YOLOV3網絡示意圖在訓練集上使用聚類選擇9個尺度不同的anchor框來回歸檢測框;貧w框示意如圖2-4,每個單元格上的預測結果包括tx,ty,tw,th,當單元格向圖像左上偏移(cx,cy)時,且對應的anchor框長寬為(Pw,Ph)時,最終回歸框的計算公式為(2-5)by=σ(ty)+cy(2-6)bw=pwetw(2-7)bh=pheth(2-8)圖2-4回歸框示意圖訓練時的損失函數如式(2-9)所示(2-9)其中表示根據最大的交并比選擇預選框的原則判斷目標框是否屬于網格i中的第j個預選框。(x,y,w,h)表示檢測目標框的位置信息和寬高信息,表示人工標注框bx=σ(tx)+cxLoss=λcoord1ijobjj=0B∑i=0s2∑[(xixi)2+(yiyi)2+(wiwi)2+(hihi)2]+1ijobjj=0B∑i=0s2∑(CiCi)2+λnoobj1ijnoobjj=0B∑i=0s2∑(CiCi)2+1ijobj1ijnoobjj=0B∑i=0s2∑(pi(c)pi(c))21ijobj(x,y,w,h)
【參考文獻】:
期刊論文
[1]基于AHP和灰色關聯(lián)分析的電能替代效果評估[J]. 苗常海,梁佳麗,郭艷飛,羅艷紅,成嶺. 控制工程. 2018(05)
[2]基于DEMATEL-相關性分析和VIKOR-灰色關聯(lián)分析的供應鏈績效評價模型研究[J]. 董文心,王英,張悅,陳燕燕,蘇柏林. 科技管理研究. 2018(09)
[3]基于改進灰色關聯(lián)分析的配電網低電壓貢獻度評價方法[J]. 胡斌,任曦駿,葉斌,王緒利,代磊. 電力電容器與無功補償. 2018(02)
[4]一種基于深度學習的多聚焦圖像融合算法[J]. 陳清江,李毅,柴昱洲. 激光與光電子學進展. 2018(07)
[5]基于灰色關聯(lián)度分析的數控機床性能模糊綜合評判[J]. 劉亮輝,汪永超,白飛先,王東升. 組合機床與自動化加工技術. 2018(02)
[6]基于分布函數的潛艇目標強度統(tǒng)計建模[J]. 孫乃葳,李建辰,萬亞民. 水下無人系統(tǒng)學報. 2017(04)
博士論文
[1]含連續(xù)/離散控制的多區(qū)域電力系統(tǒng)分布式優(yōu)化調度方法研究[D]. 陸文甜.華南理工大學 2018
碩士論文
[1]基于機器視覺的木板實時檢測算法[D]. 吳佳寧.沈陽工業(yè)大學 2019
[2]基于嵌入式平臺的目標跟蹤算法與應用[D]. 余忠藝.山東大學 2019
[3]數字乳腺斷層成像的快速迭代重建算法研究[D]. 黃杰星.南方醫(yī)科大學 2019
[4]輕量級深度學習目標檢測算法研究及系統(tǒng)設計[D]. 李小偉.安徽大學 2019
[5]東北地區(qū)五個常見樹種全樹木材性質的研究[D]. 張昭林.河南科技大學 2019
[6]基于ADMM的大規(guī)模陣列方向圖綜合算法研究[D]. 楊金泰.電子科技大學 2019
[7]基于度量學習的行人重識別若干算法研究[D]. 丁宗元.常州大學 2018
[8]基于KL散度的協(xié)同過濾推薦算法研究[D]. 鄧江洲.重慶郵電大學 2018
[9]吸掃車吸嘴卷吸塵粒流動數值模擬及模糊灰色關聯(lián)分析[D]. 高俊旭.湖南大學 2016
本文編號:3602389
【文章來源】:江南大學江蘇省 211工程院校 教育部直屬院校
【文章頁數】:64 頁
【學位級別】:碩士
【部分圖文】:
FasterRCNN網絡
真實框、預測框、回歸框
第二章目標檢測算法原理9圖2-3YOLOV3網絡示意圖在訓練集上使用聚類選擇9個尺度不同的anchor框來回歸檢測框;貧w框示意如圖2-4,每個單元格上的預測結果包括tx,ty,tw,th,當單元格向圖像左上偏移(cx,cy)時,且對應的anchor框長寬為(Pw,Ph)時,最終回歸框的計算公式為(2-5)by=σ(ty)+cy(2-6)bw=pwetw(2-7)bh=pheth(2-8)圖2-4回歸框示意圖訓練時的損失函數如式(2-9)所示(2-9)其中表示根據最大的交并比選擇預選框的原則判斷目標框是否屬于網格i中的第j個預選框。(x,y,w,h)表示檢測目標框的位置信息和寬高信息,表示人工標注框bx=σ(tx)+cxLoss=λcoord1ijobjj=0B∑i=0s2∑[(xixi)2+(yiyi)2+(wiwi)2+(hihi)2]+1ijobjj=0B∑i=0s2∑(CiCi)2+λnoobj1ijnoobjj=0B∑i=0s2∑(CiCi)2+1ijobj1ijnoobjj=0B∑i=0s2∑(pi(c)pi(c))21ijobj(x,y,w,h)
【參考文獻】:
期刊論文
[1]基于AHP和灰色關聯(lián)分析的電能替代效果評估[J]. 苗常海,梁佳麗,郭艷飛,羅艷紅,成嶺. 控制工程. 2018(05)
[2]基于DEMATEL-相關性分析和VIKOR-灰色關聯(lián)分析的供應鏈績效評價模型研究[J]. 董文心,王英,張悅,陳燕燕,蘇柏林. 科技管理研究. 2018(09)
[3]基于改進灰色關聯(lián)分析的配電網低電壓貢獻度評價方法[J]. 胡斌,任曦駿,葉斌,王緒利,代磊. 電力電容器與無功補償. 2018(02)
[4]一種基于深度學習的多聚焦圖像融合算法[J]. 陳清江,李毅,柴昱洲. 激光與光電子學進展. 2018(07)
[5]基于灰色關聯(lián)度分析的數控機床性能模糊綜合評判[J]. 劉亮輝,汪永超,白飛先,王東升. 組合機床與自動化加工技術. 2018(02)
[6]基于分布函數的潛艇目標強度統(tǒng)計建模[J]. 孫乃葳,李建辰,萬亞民. 水下無人系統(tǒng)學報. 2017(04)
博士論文
[1]含連續(xù)/離散控制的多區(qū)域電力系統(tǒng)分布式優(yōu)化調度方法研究[D]. 陸文甜.華南理工大學 2018
碩士論文
[1]基于機器視覺的木板實時檢測算法[D]. 吳佳寧.沈陽工業(yè)大學 2019
[2]基于嵌入式平臺的目標跟蹤算法與應用[D]. 余忠藝.山東大學 2019
[3]數字乳腺斷層成像的快速迭代重建算法研究[D]. 黃杰星.南方醫(yī)科大學 2019
[4]輕量級深度學習目標檢測算法研究及系統(tǒng)設計[D]. 李小偉.安徽大學 2019
[5]東北地區(qū)五個常見樹種全樹木材性質的研究[D]. 張昭林.河南科技大學 2019
[6]基于ADMM的大規(guī)模陣列方向圖綜合算法研究[D]. 楊金泰.電子科技大學 2019
[7]基于度量學習的行人重識別若干算法研究[D]. 丁宗元.常州大學 2018
[8]基于KL散度的協(xié)同過濾推薦算法研究[D]. 鄧江洲.重慶郵電大學 2018
[9]吸掃車吸嘴卷吸塵粒流動數值模擬及模糊灰色關聯(lián)分析[D]. 高俊旭.湖南大學 2016
本文編號:3602389
本文鏈接:http://www.sikaile.net/kejilunwen/zidonghuakongzhilunwen/3602389.html