【摘要】：深度神經(jīng)網(wǎng)絡(luò)雖然在許多模式識(shí)別任務(wù)(如大規(guī)模圖像識(shí)別)中取得了巨大成功,但仍然有很多問(wèn)題亟待解決。一方面,研究人員發(fā)現(xiàn)深度神經(jīng)網(wǎng)絡(luò)雖然在圖像分類等任務(wù)中性能顯著,但依然會(huì)犯一些人類不會(huì)犯的錯(cuò)誤。另一方面,研究人員也仍然不清楚深度神經(jīng)網(wǎng)絡(luò)是如何從大規(guī)模數(shù)據(jù)中學(xué)習(xí)到有效的特征表示。深度神經(jīng)網(wǎng)絡(luò)的缺陷和它的“黑盒子”特性促進(jìn)了深度可視化技術(shù)的發(fā)展。深度可視化技術(shù)旨在通過(guò)以生成圖像的方式來(lái)可視化深度神經(jīng)網(wǎng)絡(luò)中的單個(gè)神經(jīng)元、特征映射或者卷積層等所學(xué)習(xí)到的特征表示,幫助理解神經(jīng)網(wǎng)絡(luò)是如何從數(shù)據(jù)中學(xué)習(xí)特征提取,幫助分析提取到的特征有什么優(yōu)缺點(diǎn),從而幫助設(shè)計(jì)更好的網(wǎng)絡(luò)結(jié)構(gòu)來(lái)提升網(wǎng)絡(luò)的優(yōu)點(diǎn)、避免缺點(diǎn)。深度可視化技術(shù)已經(jīng)成為了深度學(xué)習(xí)中一個(gè)學(xué)術(shù)研究熱點(diǎn),但仍然處于探索階段。本文的主要研究對(duì)象是深度神經(jīng)網(wǎng)絡(luò)中數(shù)以千計(jì)的卷積濾波器。深度神經(jīng)網(wǎng)絡(luò)中不同的濾波器會(huì)從輸入圖像中提取不同特征表示。已有的研究表明低層的卷積核提取了圖像的低級(jí)語(yǔ)義特性(如邊緣、角點(diǎn)),高層的卷積濾波器提取了圖像的高層語(yǔ)義特性(如圖像類別)。但是,由于深度神經(jīng)網(wǎng)絡(luò)會(huì)以逐層復(fù)合的方式從輸入數(shù)據(jù)中提取特征,我們?nèi)匀粺o(wú)法像Sobel算子提取的圖像邊緣結(jié)果圖一樣直觀地觀察到深度神經(jīng)網(wǎng)絡(luò)中的卷積濾波器從輸入圖像中提取到的特征表示。本文提出特征映射可視化方法來(lái)可視化深度神經(jīng)網(wǎng)絡(luò)中的卷積濾波器從輸入圖像中提取到的特征表示。特征映射可視化會(huì)強(qiáng)化感興趣的卷積濾波器所對(duì)應(yīng)的特征映射,并抑制同層其他濾波器所對(duì)應(yīng)的特征映射,得到調(diào)制碼之后再通過(guò)編碼反轉(zhuǎn)方法來(lái)生成新圖像,使得新圖像在該層的濾波響應(yīng)與調(diào)制碼相同。生成的新圖像與感興趣的濾波器具有一一映射關(guān)系,能夠反映出該濾波器從輸入圖像中提取到的特征表示。通過(guò)特征映射可視化研究我們發(fā)現(xiàn),深度神經(jīng)網(wǎng)絡(luò)中的每一個(gè)卷積濾波器都從輸入圖像中提取到一種特殊的紋理基元圖像。低層的濾波器提取的紋理基元比較簡(jiǎn)單,顏色單一;高層的濾波器提取的紋理基元比較復(fù)雜,顏色豐富�；谔卣饔成淇梢暬慕Y(jié)果,本文還提出了圖像的紋理模型,并應(yīng)用于圖像風(fēng)格轉(zhuǎn)移和圖像紋理分類任務(wù)。實(shí)驗(yàn)結(jié)果表明,本文提出的紋理特征在圖像風(fēng)格轉(zhuǎn)移和圖像紋理識(shí)別任務(wù)中均表現(xiàn)優(yōu)異。基于特征映射可視化結(jié)果而提出的圖像紋理模型的成功應(yīng)用也反過(guò)來(lái)證明了深度可視化研究的重要性和意義。
[Abstract]:Although deep neural network has achieved great success in many pattern recognition tasks, such as large-scale image recognition, there are still many problems to be solved. On the one hand, the researchers found that although the deep neural network has significant performance in image classification and other tasks, it still makes some mistakes that human beings will not make. On the other hand, researchers still do not know how deep neural networks learn effective feature representation from large-scale data. The defects of deep neural network and its black box characteristics promote the development of depth visualization technology. The purpose of depth visualization technology is to visualize the feature representation learned by a single neuron, feature mapping or convolution layer in deep neural network by generating images, to help understand how neural network learns feature extraction from data, to help analyze the advantages and disadvantages of extracted features, so as to help design a better network structure to improve the advantages and disadvantages of the network. Deep visualization technology has become a hot academic research topic in-depth learning, but it is still in the exploratory stage. The main research object of this paper is thousands of convolution filters in deep neural network. Different filters in depth neural network extract different feature representations from input images. Previous studies have shown that the low-level convolution kernel can extract the low-level semantic characteristics of the image (such as edge, corner), and the high-level convolution filter can extract the high-level semantic characteristics of the image (such as image category). However, because the depth neural network will extract features from the input data layer by layer, we still can not observe the feature representation extracted from the input image by the convolution filter in the depth neural network as intuitively as the image edge result map extracted by Sobel operator. In this paper, a feature mapping visualization method is proposed to visualize the feature representation extracted from the input image by convolution filter in depth neural network. The visualization of feature mapping strengthens the feature mapping corresponding to the convolution filter of interest, and suppresses the feature mapping corresponding to other filters in the same layer. After the modulation code is obtained, the new image is generated by coding inversion method, so that the filtering response of the new image in this layer is the same as that of the modulation code. The generated new image has a one-to-one mapping relationship with the filter of interest, which can reflect the feature representation extracted from the input image. Through the visualization of feature mapping, we find that every convolution filter in depth neural network can extract a special texture primitive image from the input image. The texture primitive extracted by the low-level filter is relatively simple and the color is single, while the texture primitive extracted by the high-level filter is more complex and rich in color. Based on the results of feature mapping visualization, this paper also proposes an image texture model, which is applied to image style transfer and image texture classification. The experimental results show that the texture features proposed in this paper are excellent in image style transfer and image texture recognition. The successful application of the image texture model based on the visualization results of feature mapping proves the importance and significance of the research of depth visualization.
【學(xué)位授予單位】：電子科技大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位授予年份】：2017
【分類號(hào)】：TP391.41;TP183

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 楊曉帥 ,付玫;神經(jīng)網(wǎng)絡(luò)技術(shù)讓管理更輕松[J];軟件世界;2000年11期

2 云中客;新的神經(jīng)網(wǎng)絡(luò)來(lái)自于仿生學(xué)[J];物理;2001年10期

3 唐春明,高協(xié)平;進(jìn)化神經(jīng)網(wǎng)絡(luò)的研究進(jìn)展[J];系統(tǒng)工程與電子技術(shù);2001年10期

4 李智;一種基于神經(jīng)網(wǎng)絡(luò)的煤炭調(diào)運(yùn)優(yōu)化方法[J];長(zhǎng)沙鐵道學(xué)院學(xué)報(bào);2003年02期

5 程科,王士同,楊靜宇;新型模糊形態(tài)神經(jīng)網(wǎng)絡(luò)及其應(yīng)用研究[J];計(jì)算機(jī)工程與應(yīng)用;2004年21期

6 王凡,孟立凡;關(guān)于使用神經(jīng)網(wǎng)絡(luò)推定操作者疲勞的研究[J];人類工效學(xué);2004年03期

7 周麗暉;從統(tǒng)計(jì)角度看神經(jīng)網(wǎng)絡(luò)[J];統(tǒng)計(jì)教育;2005年06期

8 趙奇 ,劉開(kāi)第 ,龐彥軍;灰色補(bǔ)償神經(jīng)網(wǎng)絡(luò)及其應(yīng)用研究[J];微計(jì)算機(jī)信息;2005年14期

9 袁婷;;神經(jīng)網(wǎng)絡(luò)在股票市場(chǎng)預(yù)測(cè)中的應(yīng)用[J];軟件導(dǎo)刊;2006年05期

10 尚晉;楊有;;從神經(jīng)網(wǎng)絡(luò)的過(guò)去談科學(xué)發(fā)展觀[J];重慶三峽學(xué)院學(xué)報(bào);2006年03期

相關(guān)會(huì)議論文 前10條

1 徐春玉;;基于泛集的神經(jīng)網(wǎng)絡(luò)的混沌性[A];1996中國(guó)控制與決策學(xué)術(shù)年會(huì)論文集[C];1996年

2 周樹(shù)德;王巖;孫增圻;孫富春;;量子神經(jīng)網(wǎng)絡(luò)[A];2003年中國(guó)智能自動(dòng)化會(huì)議論文集（上冊(cè)）[C];2003年

3 羅山;張琳;范文新;;基于神經(jīng)網(wǎng)絡(luò)和簡(jiǎn)單規(guī)劃的識(shí)別融合算法[A];2009系統(tǒng)仿真技術(shù)及其應(yīng)用學(xué)術(shù)會(huì)議論文集[C];2009年

4 郭愛(ài)克;馬盡文;丁康;;序言(二)[A];1999年中國(guó)神經(jīng)網(wǎng)絡(luò)與信號(hào)處理學(xué)術(shù)會(huì)議論文集[C];1999年

5 鐘義信;;知識(shí)論:神經(jīng)網(wǎng)絡(luò)的新機(jī)遇——紀(jì)念中國(guó)神經(jīng)網(wǎng)絡(luò)10周年[A];1999年中國(guó)神經(jīng)網(wǎng)絡(luò)與信號(hào)處理學(xué)術(shù)會(huì)議論文集[C];1999年

6 許進(jìn);保錚;;神經(jīng)網(wǎng)絡(luò)與圖論[A];1999年中國(guó)神經(jīng)網(wǎng)絡(luò)與信號(hào)處理學(xué)術(shù)會(huì)議論文集[C];1999年

7 金龍;朱詩(shī)武;趙成志;陳寧;;數(shù)值預(yù)報(bào)產(chǎn)品的神經(jīng)網(wǎng)絡(luò)釋用預(yù)報(bào)應(yīng)用[A];1999年中國(guó)神經(jīng)網(wǎng)絡(luò)與信號(hào)處理學(xué)術(shù)會(huì)議論文集[C];1999年

8 田金亭;;神經(jīng)網(wǎng)絡(luò)在中學(xué)生創(chuàng)造力評(píng)估中的應(yīng)用[A];第十二屆全國(guó)心理學(xué)學(xué)術(shù)大會(huì)論文摘要集[C];2009年

9 唐墨;王科俊;;自發(fā)展神經(jīng)網(wǎng)絡(luò)的混沌特性研究[A];2009年中國(guó)智能自動(dòng)化會(huì)議論文集（第七分冊(cè)）[南京理工大學(xué)學(xué)報(bào)（增刊）][C];2009年

10 張廣遠(yuǎn);萬(wàn)強(qiáng);曹海源;田方濤;;基于遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的故障診斷方法研究[A];第十二屆全國(guó)設(shè)備故障診斷學(xué)術(shù)會(huì)議論文集[C];2010年

相關(guān)重要報(bào)紙文章 前10條

1 美國(guó)明尼蘇達(dá)大學(xué)社會(huì)學(xué)博士 密西西比州立大學(xué)國(guó)家戰(zhàn)略規(guī)劃與分析研究中心資深助理研究員 陳心想;維護(hù)好創(chuàng)新的“神經(jīng)網(wǎng)絡(luò)硬件”[N];中國(guó)教師報(bào);2014年

2 盧業(yè)忠;腦控電腦 驚世駭俗[N];計(jì)算機(jī)世界;2001年

3 葛一鳴 路邊文;人工神經(jīng)網(wǎng)絡(luò)將大顯身手[N];中國(guó)紡織報(bào);2003年

4 中國(guó)科技大學(xué)計(jì)算機(jī)系　邢方亮;神經(jīng)網(wǎng)絡(luò)挑戰(zhàn)人類大腦[N];計(jì)算機(jī)世界;2003年

5 記者 孫剛;“神經(jīng)網(wǎng)絡(luò)”：打開(kāi)復(fù)雜工藝“黑箱”[N];解放日?qǐng)?bào);2007年

6 本報(bào)記者 劉霞;美用DNA制造出首個(gè)人造神經(jīng)網(wǎng)絡(luò)[N];科技日?qǐng)?bào);2011年

7 健康時(shí)報(bào)特約記者　 張獻(xiàn)懷;干細(xì)胞移植：修復(fù)受損的神經(jīng)網(wǎng)絡(luò)[N];健康時(shí)報(bào);2006年

8 劉力;我半導(dǎo)體神經(jīng)網(wǎng)絡(luò)技術(shù)及應(yīng)用研究達(dá)國(guó)際先進(jìn)水平[N];中國(guó)電子報(bào);2001年

9 ;神經(jīng)網(wǎng)絡(luò)和模糊邏輯[N];世界金屬導(dǎo)報(bào);2002年

10 鄒麗梅 陳耀群;江蘇科大神經(jīng)網(wǎng)絡(luò)應(yīng)用研究通過(guò)鑒定[N];中國(guó)船舶報(bào);2006年

相關(guān)博士學(xué)位論文 前10條

1 楊旭華;神經(jīng)網(wǎng)絡(luò)及其在控制中的應(yīng)用研究[D];浙江大學(xué);2004年

2 李素芳;基于神經(jīng)網(wǎng)絡(luò)的無(wú)線通信算法研究[D];山東大學(xué);2015年

3 石艷超;憶阻神經(jīng)網(wǎng)絡(luò)的混沌性及幾類時(shí)滯神經(jīng)網(wǎng)絡(luò)的同步研究[D];電子科技大學(xué);2014年

4 王新迎;基于隨機(jī)映射神經(jīng)網(wǎng)絡(luò)的多元時(shí)間序列預(yù)測(cè)方法研究[D];大連理工大學(xué);2015年

5 付愛(ài)民;極速學(xué)習(xí)機(jī)的訓(xùn)練殘差、穩(wěn)定性及泛化能力研究[D];中國(guó)農(nóng)業(yè)大學(xué);2015年

6 李輝;基于粒計(jì)算的神經(jīng)網(wǎng)絡(luò)及集成方法研究[D];中國(guó)礦業(yè)大學(xué);2015年

7 王衛(wèi)蘋;復(fù)雜網(wǎng)絡(luò)幾類同步控制策略研究及穩(wěn)定性分析[D];北京郵電大學(xué);2015年

8 張海軍;基于云計(jì)算的神經(jīng)網(wǎng)絡(luò)并行實(shí)現(xiàn)及其學(xué)習(xí)方法研究[D];華南理工大學(xué);2015年

9 李艷晴;風(fēng)速時(shí)間序列預(yù)測(cè)算法研究[D];北京科技大學(xué);2016年

10 陳輝;多維超精密定位系統(tǒng)建模與控制關(guān)鍵技術(shù)研究[D];東南大學(xué);2015年

相關(guān)碩士學(xué)位論文 前10條

1 夏志強(qiáng);深度神經(jīng)網(wǎng)絡(luò)可視化技術(shù)研究與應(yīng)用[D];電子科技大學(xué);2017年

2 章穎;混合不確定性模塊化神經(jīng)網(wǎng)絡(luò)與高校效益預(yù)測(cè)的研究[D];華南理工大學(xué);2015年

3 賈文靜;基于改進(jìn)型神經(jīng)網(wǎng)絡(luò)的風(fēng)力發(fā)電系統(tǒng)預(yù)測(cè)及控制研究[D];燕山大學(xué);2015年

4 李慧芳;基于憶阻器的渦卷混沌系統(tǒng)及其電路仿真[D];西南大學(xué);2015年

5 陳彥至;神經(jīng)網(wǎng)絡(luò)降維算法研究與應(yīng)用[D];華南理工大學(xué);2015年

6 董哲康;基于憶阻器的組合電路及神經(jīng)網(wǎng)絡(luò)研究[D];西南大學(xué);2015年

7 武創(chuàng)舉;基于神經(jīng)網(wǎng)絡(luò)的遙感圖像分類研究[D];昆明理工大學(xué);2015年

8 李志杰;基于神經(jīng)網(wǎng)絡(luò)的上證指數(shù)預(yù)測(cè)研究[D];華南理工大學(xué);2015年

9 陳少吉;基于神經(jīng)網(wǎng)絡(luò)血壓預(yù)測(cè)研究與系統(tǒng)實(shí)現(xiàn)[D];華南理工大學(xué);2015年

10 張韜;幾類時(shí)滯神經(jīng)網(wǎng)絡(luò)穩(wěn)定性分析[D];渤海大學(xué);2015年

，

本文編號(hào)：2505053