基于深度神經網絡壓縮的嵌入式目標檢測研究
發(fā)布時間:2020-06-02 18:27
【摘要】:深度神經網絡是近年來人工智能領域一大重要研究方向。目前,深度學習中的目標檢測方法通常采用卷積神經網絡模型,通過矩陣計算實現(xiàn)卷積神經網絡的核心——卷積運算。卷積神經網絡模型的推理需要較多的存儲和計算資源。嵌入式設備中的存儲和計算資源往往有限,傳統(tǒng)的深度學習方法無法直接應用于此類系統(tǒng)環(huán)境。在推理過程中,由于網絡的參數(shù)已經固定,一方面不再需要冗余的參數(shù)來保證網絡的收斂,另一方面網絡參數(shù)的冗余性還會大幅度降低網絡前向傳播的速度并占用額外的存儲空間。因此,如何在訓練完成后結合卷積神經網絡的自身特點消除網絡參數(shù)的冗余性并將該方法應用于目標檢測任務上,是一個亟待解決的重要問題。為了解決這個問題,在前向傳播過程中需要同時減少網絡的參數(shù)數(shù)量和網絡推理所需要的時間。主要工作如下:首先,對于卷積神經網絡的基本原理與實現(xiàn)進行了簡單分析,并介紹了基于該技術進行的目標檢測任務的相關技術實現(xiàn)細節(jié),為后續(xù)工作的展開提供了理論基礎。其次,總結分析了目前主流的神經網絡壓縮和加速的方法,并對每一類方法的基本技術原理給出了簡要的介紹,分析和比較了了相關方法的優(yōu)缺點,為后續(xù)的工作指明了技術方向。最后,針對目前常用的基于卷積神經網絡的目標檢測網絡,結合相關文獻提出了針對卷積層進行稀疏化通道剪枝,對目標檢測網絡進行壓縮和加速,并在嵌入式平臺Nvidia jetson TX2上進行測試。實驗過程使用了開源的深度學習框架平臺pytorch實現(xiàn)了針對網絡的壓縮和加速,并使用Caffe平臺進行了壓縮和加速后的速度測試,驗證了方法的有效性。
【圖文】:
圖 2-1 均值濾波器示例作為一個滑動窗口作為濾波運算的結果并。均值濾波能夠一定像素的平均值來替代在一定程度上丟失細的大小,可以實現(xiàn)對。卷積神經網絡中的過網絡的反向傳播過一定的初始化算法初函數(shù)達到合適的結果取出各種類型和層次
卷積得到的結果及轉換
【學位授予單位】:華中科技大學
【學位級別】:碩士
【學位授予年份】:2019
【分類號】:TP391.41;TP183
本文編號:2693583
【圖文】:
圖 2-1 均值濾波器示例作為一個滑動窗口作為濾波運算的結果并。均值濾波能夠一定像素的平均值來替代在一定程度上丟失細的大小,可以實現(xiàn)對。卷積神經網絡中的過網絡的反向傳播過一定的初始化算法初函數(shù)達到合適的結果取出各種類型和層次
卷積得到的結果及轉換
【學位授予單位】:華中科技大學
【學位級別】:碩士
【學位授予年份】:2019
【分類號】:TP391.41;TP183
【參考文獻】
相關會議論文 前1條
1 王鼎衡;趙廣社;李國齊;鄧磊;;基于張量鏈壓縮的卷積神經網絡及手勢識別應用研究[A];2018中國自動化大會(CAC2018)論文集[C];2018年
,本文編號:2693583
本文鏈接:http://www.sikaile.net/kejilunwen/zidonghuakongzhilunwen/2693583.html
最近更新
教材專著