高光譜圖像分類一直是遙感領(lǐng)域的研究熱點,高光譜遙感圖像包含地物的光譜信息及空間信息,可以利用這些信息對地物進行分類與識別。在過去的20年中,提出了很多分類及特征提取方法,例如最近鄰分類器、支持向量機分類器、基于主成分分析的線性降維以及基于流形學(xué)習(xí)的非線性降維等方法。但是無論是分類器還是特征提取,都處于淺層的級別。如何提取深層的特征,使得特征更加抽象更易于分類,是當(dāng)今機器學(xué)習(xí)領(lǐng)域的研究熱點。深度學(xué)習(xí)便是解決這個問題的新方向,也是近年來機器學(xué)習(xí)領(lǐng)域的研究熱點。深度學(xué)習(xí)可以構(gòu)建深度網(wǎng)絡(luò),增大模型的參數(shù)量,使模型可以記住更多的訓(xùn)練數(shù)據(jù)。同時,如何針對具體的問題構(gòu)建網(wǎng)絡(luò),也是深度學(xué)習(xí)的研究內(nèi)容之一。隨著網(wǎng)絡(luò)層數(shù)的增多,以往的訓(xùn)練方法可能無法訓(xùn)練出更好的網(wǎng)絡(luò)參數(shù),新的訓(xùn)練技術(shù)是解決問題的根本。除此之外,網(wǎng)絡(luò)模型變大也同樣增加了計算量,降低了使用時的效率,如何提高網(wǎng)絡(luò)執(zhí)行的速度也是實際應(yīng)用中很重要的環(huán)節(jié)。論文首先介紹自編碼器這種經(jīng)典的深度學(xué)習(xí)網(wǎng)絡(luò)模型；其次,基于多層感知器模型,討論多種網(wǎng)絡(luò)優(yōu)化策略,以提高網(wǎng)絡(luò)執(zhí)行效率以及提高網(wǎng)絡(luò)分類性能,并基于這種優(yōu)化的多層感知器對高光譜遙感圖像進行分類；然后,針對高光譜遙感圖像的特點,綜合利用數(shù)據(jù)光譜信息和空間信息,基于兩種深度網(wǎng)絡(luò)模型(優(yōu)化的多層感知器和卷積神經(jīng)網(wǎng)絡(luò))對高光譜圖像進行分類；最后對多時相高光譜遙感圖像分類問題,基于優(yōu)化的多層感知器,加入類心對齊策略,構(gòu)造深度遷移網(wǎng)絡(luò),實現(xiàn)遷移學(xué)習(xí)的目的。論文主要研究工作如下：首先介紹深度學(xué)習(xí)領(lǐng)域的經(jīng)典算法：棧式自編碼器,這種算法很好地闡述了預(yù)訓(xùn)練與微調(diào)的作用。自編碼器通過逐層的無監(jiān)督預(yù)訓(xùn)練來初始化網(wǎng)絡(luò)的模型參數(shù),再通過有監(jiān)督的微調(diào)使網(wǎng)絡(luò)適用于特定的任務(wù),其中無監(jiān)督預(yù)訓(xùn)練所確定的參數(shù),通常比隨機初始化的要好。但自編碼器的預(yù)訓(xùn)練降低了網(wǎng)絡(luò)訓(xùn)練的效率,需要通過預(yù)訓(xùn)練跟微調(diào)兩個環(huán)節(jié)才能訓(xùn)練完整個網(wǎng)絡(luò)。并且,不同網(wǎng)絡(luò)訓(xùn)練技術(shù)的使用,對于網(wǎng)絡(luò)的分類效果有較大影響,因此,深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的優(yōu)化對于提高分類效果起著非常重要的作用。論文基于多層感知器模型,討論了幾種新的有效的網(wǎng)絡(luò)訓(xùn)練技術(shù),包括ReLU神經(jīng)元,防止過擬合策略,以及網(wǎng)絡(luò)權(quán)值優(yōu)化算法,利用這些技術(shù),能夠更加高效地訓(xùn)練深度網(wǎng)絡(luò),提高分類效果。其次,在高光譜圖像分類領(lǐng)域中,通常只利用地物的光譜信息,而缺少對空間信息的利用,研究表明,利用空間信息可以降低分類“噪聲”,提高高光譜遙感圖像的分類精度。因此,論文基于第三章給出的優(yōu)化的多層感知器,結(jié)合圖像空間信息,進一步提高分類效果。另外,卷積神經(jīng)網(wǎng)絡(luò)是深度學(xué)習(xí)中非常成功的模型,但是還沒有應(yīng)用到高光譜遙感圖像分類領(lǐng)域,論文基于卷積神經(jīng)網(wǎng)絡(luò),設(shè)計兩種方式,把每個像素點的空間鄰域信息作為卷積神經(jīng)網(wǎng)絡(luò)的輸入,應(yīng)用于高光譜遙感圖像分類。最后,對于多時相高光譜遙感影像,假如我們對其中一幅影像(稱為源域數(shù)據(jù))已經(jīng)有足夠多的標記樣本,那么如果能夠重新利用這些知識,對新來的缺乏標記樣本的遙感影像(稱為目標域數(shù)據(jù))進行分類,能夠減少新影像分類的人工成本,提高圖像分類的自動化水平。如何把已有知識有效運用到新環(huán)境中是遷移學(xué)習(xí)要解決的問題。論文基于深度學(xué)習(xí)網(wǎng)絡(luò),采用類心對齊策略,實現(xiàn)遷移學(xué)習(xí),應(yīng)用于多時相高光譜遙感影像分類。論文在深度學(xué)習(xí)網(wǎng)絡(luò)目標函數(shù)中,加入兩個域數(shù)據(jù)類心特征相似的約束,通過深度學(xué)習(xí)網(wǎng)絡(luò)對兩個域數(shù)據(jù)做非線性變換,以達到變換后兩個域數(shù)據(jù)特征相似的目的,從而可以直接利用變換后的源域標記數(shù)據(jù)對變換后的目標域數(shù)據(jù)進行分類。論文的創(chuàng)新點包括：(1)論文第三章把當(dāng)前最新的一些網(wǎng)絡(luò)優(yōu)化策略加入到多層感知器算法中,應(yīng)用于高光譜遙感圖像分類,提高了網(wǎng)絡(luò)執(zhí)行效率以及分類性能。(2)論文第四章將卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用于高光譜遙感圖像分類,并結(jié)合高光譜遙感圖像空間信息,設(shè)計兩種網(wǎng)絡(luò)輸入數(shù)據(jù)的方式,以適應(yīng)卷積操作,進一步提高卷積神經(jīng)網(wǎng)絡(luò)對高光譜圖像分類的性能。(3)論文第五章針對多時相高光譜遙感圖像分類問題,在優(yōu)化的多層感知器算法中,加入源域數(shù)據(jù)和目標域數(shù)據(jù)的類心對齊策略,使得網(wǎng)絡(luò)具有遷移學(xué)習(xí)的能力。
【學(xué)位單位】：中國地質(zhì)大學(xué)
【學(xué)位級別】：碩士
【學(xué)位年份】：2016
【中圖分類】：TP751
【部分圖文】：

ｉ〇?邢晨；基于深度學(xué)習(xí)的高光譜遙感圖像分類成編碼與解碼兩部分，輸入數(shù)據(jù)經(jīng)過編碼部分后可得到編碼后的特征，特征碼后重構(gòu)成原始數(shù)據(jù)，所Ｗ整個網(wǎng)絡(luò)通過輸入數(shù)據(jù)作為重構(gòu)誤差，訓(xùn)練調(diào)整絡(luò)的參數(shù)，使網(wǎng)絡(luò)達到編解碼的目的。訓(xùn)練調(diào)整網(wǎng)絡(luò)的參數(shù)，這樣就可１＾得的不同表示，隱含層的輸出即為輸入的不同表示，而這些表示就是特征。如所示，整個過程可Ｗ拆分成一個編解碼的過程，隱含層的輸出是編碼，輸出碼。這樣，整個網(wǎng)絡(luò)由輸入到隱含層可Ｗ看作是個編碼器，從隱含層到輸出Ｗ看作是一個解碼器。??

碼后重構(gòu)成原始數(shù)據(jù)，所Ｗ整個網(wǎng)絡(luò)通過輸入數(shù)據(jù)作為重構(gòu)誤差，訓(xùn)練調(diào)整整個網(wǎng)??絡(luò)的參數(shù)，使網(wǎng)絡(luò)達到編解碼的目的。訓(xùn)練調(diào)整網(wǎng)絡(luò)的參數(shù)，這樣就可１＾得到輸入??的不同表示，隱含層的輸出即為輸入的不同表示，而這些表示就是特征。如圖２．２??所示，整個過程可Ｗ拆分成一個編解碼的過程，隱含層的輸出是編碼，輸出層是解??碼。這樣，整個網(wǎng)絡(luò)由輸入到隱含層可Ｗ看作是個編碼器，從隱含層到輸出層則可??Ｗ看作是一個解碼器。??輸入批巧Ｉ?ｊｊｍｉｉｉｉｉ餘ｍ?１??‘文旁！??巧據(jù)標簽?＼?Ｉ??圖２．１有監(jiān)督訓(xùn)練模型??Ｉ?．０??圖２．２無監(jiān)督編解碼流程??一個ＡＥ的網(wǎng)絡(luò)結(jié)構(gòu)及參數(shù)如圖２．３所示。輸入層Ｘ為輸入數(shù)據(jù)，其節(jié)點個數(shù)??為輸入數(shù)據(jù)Ｘ的維數(shù)。ｈ為隱含層數(shù)據(jù)，即編碼結(jié)果或特征，如果隱含層節(jié)點數(shù)小??于輸入數(shù)據(jù)維數(shù)，這個ＡＥ網(wǎng)絡(luò)就是對數(shù)據(jù)降維，反之為升維。Ｗ，跟ｂ，是編碼部??分的權(quán)重跟偏置，Ｗ２跟ｂ；是解碼部分的權(quán)重跟偏置。ｙ為輸出層，也可Ｗ叫重構(gòu)，??ｙ是解碼之后的數(shù)據(jù)，根據(jù)ＡＥ網(wǎng)絡(luò)的重構(gòu)目標，應(yīng)該使ｙ？ｘ來訓(xùn)練ＡＥ網(wǎng)絡(luò)。??圖２．３為ＡＥ網(wǎng)絡(luò)模型

這種堆疊的訓(xùn)練過程也稱作無監(jiān)督預(yù)訓(xùn)練，整個訓(xùn)練過程每次只無監(jiān)督訓(xùn)練一??層。一旦前Ａ層訓(xùn)練好之后，就可訓(xùn)練Ａ＋７層，因為可（＾１利用前面的層計算的??特征作為下一層的輸入。ＳＡＥ的訓(xùn)練流程如圖２．５所示，此圖是一個Ｈ層ＳＡＥ網(wǎng)??絡(luò)的訓(xùn)練，圖中每個圈圈代表一個節(jié)點，輸入層中節(jié)點的；Ｃ。為輸入數(shù)據(jù)的第ｎ維??特征，同理Ａ。及為隱含層及輸出層的第ｎ維特征。特征表達２中的上角標代表??訓(xùn)練的ＡＥ數(shù)。當(dāng)?shù)谝粚拥模粒庞?xùn)練完之后，去掉解碼層，為特征作為第二??個ＡＥ網(wǎng)絡(luò)的輸入數(shù)據(jù)訓(xùn)練第二個ＡＥ，ｔｉｌ此類推，再訓(xùn)練第Ｈ個ＡＥ。當(dāng)所??有Ｈ個ＡＥ訓(xùn)練好之后，就組成了一個Ｈ層的神經(jīng)網(wǎng)絡(luò)，將原始數(shù)據(jù)Ｘ輸入到第一?古??層的ＡＥ網(wǎng)絡(luò)，前向傳播口３］到第Ｈ層輸出，最終得到第Ｈ層網(wǎng)絡(luò)的特征。整個多層??的ＳＡＥ是無監(jiān)督訓(xùn)練的。??＊入??Ｍｍ??輸入??＊征化Ｉ??圖２．５?ＳＡＥ訓(xùn)練流程??幾十年前人們就發(fā)現(xiàn)了多層的神經(jīng)網(wǎng)絡(luò)在理論上的簡潔性和較強的表達能力，??但仍存在一些問題
【相似文獻】

相關(guān)期刊論文 前10條

1 劉慶生,劉高煥,藺啟忠,王志剛;基于邏輯斯蒂模型的遙感圖像分類[J];國土資源遙感;2001年01期

2 譚衢霖,邵蕓;雷達遙感圖像分類新技術(shù)發(fā)展研究[J];國土資源遙感;2001年03期

3 杜鳳蘭,田慶久,夏學(xué)齊;遙感圖像分類方法評析與展望[J];遙感技術(shù)與應(yīng)用;2004年06期

4 李石華,王金亮,畢艷,陳姚,朱妙園,楊帥,朱佳;遙感圖像分類方法研究綜述[J];國土資源遙感;2005年02期

5 付小勇;楊建祥;譚靖;;基于統(tǒng)計的遙感圖像分類方法[J];林業(yè)調(diào)查規(guī)劃;2005年06期

6 王一達;沈熙玲;謝炯;;遙感圖像分類方法綜述[J];遙感信息;2006年05期

7 李華;曹衛(wèi)彬;劉姣娣;;土地監(jiān)測中提高遙感圖像分類精度的方法研究[J];安徽農(nóng)學(xué)通報;2008年22期

8 岳昔娟;張勇;黃國滿;;改進的直方圖均衡化在遙感圖像分類中的應(yīng)用[J];四川測繪;2008年04期

9 曾聯(lián)明;吳湘濱;劉鵬;;感興趣區(qū)域遙感圖像分類與支持向量機應(yīng)用研究[J];計算機工程與應(yīng)用;2009年06期

10 金良;于鳳鳴;;計算機遙感圖像分類法在天然草原土地利用現(xiàn)狀研究中的應(yīng)用[J];科技資訊;2010年36期

相關(guān)博士學(xué)位論文 前4條

1 劉小芳;基于核理論的遙感圖像分類方法研究[D];電子科技大學(xué);2011年

2 王佐成;基于紋理的遙感圖像分類研究[D];西南交通大學(xué);2007年

3 許凱;云模型支持下的遙感圖像分類粒計算方法研究[D];武漢大學(xué);2010年

4 張雁;基于機器學(xué)習(xí)的遙感圖像分類研究[D];北京林業(yè)大學(xué);2014年

相關(guān)碩士學(xué)位論文 前10條

1 林丹;基于小波變換的K-means算法在遙感圖像分類中的應(yīng)用研究[D];河北工程大學(xué);2015年

2 姜瑋;張量空間FCM算法研究及其在高光譜遙感圖像分類中的應(yīng)用[D];西南交通大學(xué);2015年

3 付建東;粒子群神經(jīng)網(wǎng)絡(luò)在遙感影像分類中的應(yīng)用研究[D];東華理工大學(xué);2015年

4 孫寧;基于高光譜遙感圖像分類的水域變化檢測[D];南昌工程學(xué)院;2015年

5 左亞青;基于主動深度學(xué)習(xí)的遙感圖像分類[D];燕山大學(xué);2016年

6 邢晨;基于深度學(xué)習(xí)的高光譜遙感圖像分類[D];中國地質(zhì)大學(xué);2016年

7 崔亮;基于蟻群算法的遙感圖像分類研究[D];華中科技大學(xué);2007年

8 李昕;基于分形理論的遙感圖像分類方法研究[D];湖南大學(xué);2009年

9 王方方;利用融合方法的遙感圖像分類研究[D];西安電子科技大學(xué);2009年

10 陳敏;基于紋理特征的遙感圖像分類技術(shù)研究[D];福州大學(xué);2005年

本文編號：2837917