基于小樣本學習的高光譜遙感圖像分類算法
發(fā)布時間:2021-03-10 16:49
高光譜圖像(Hyperspectral Image,HSI)具有豐富的地物空間信息和光譜信息,為地物的精細分類提供了有利條件.當前高光譜遙感圖像分類方法,在標記樣本較少的情況下,其分類性能相對有限.那么,如何充分發(fā)揮小樣本學習領域的相關理論與方法,以提升高光譜遙感圖像分類性能,是一個意義重要且具有挑戰(zhàn)性的問題.為此,本文以標記的小樣本為背景,對現有基于深度學習的高光譜遙感圖像分類算法進行改進,其核心思路在于:利用基于深度三維神經網絡的嵌入模型從訓練數據集中學習投影函數,進而將視覺特征映射到語義表示,同時通過最小化損失函數使其類內間距較小、類間間距較大,再使用訓練好的網絡嵌入模型將每個未標記的目標類表示在相同的嵌入空間中,最后,分別選用歐氏距離和卷積神經網絡作為距離度量方式,計算嵌入空間中嵌入與類原型之間的距離,從而實現投影后的樣本分類.本文在印第安松、薩利納斯和帕維亞大學數據集上進行了實驗,其結果表明改進的算法具有較好的高光譜遙感圖像分類性能.
【文章來源】:聊城大學學報(自然科學版). 2020,33(06)
【文章頁數】:11 頁
【部分圖文】:
網絡模型結構
在小樣本分類任務中,關鍵在于使用中間層語義表示來使得源域數據與目標域數據在語義上相關,而這些語義表示通常編碼在高維向量空間中.常見的語義表示包括語義屬性和語義詞向量.給定一個預定義的語義表示,各類均能表示為一個屬性向量或一個語義詞向量,即類原型.語義表示通常是通用且共享的,可以用來在訓練數據集和測試數據集之間傳遞知識,從而識別新的、不可見的類.使用嵌入模型從訓練數據集中學習投影函數,投影函數將視覺特征映射為語義表示.利用學習到的投影函數將不可見類的未標記樣本表示在同一個嵌入空間.然后通過計算嵌入空間中嵌入與類原型的相似度使用分類模型對每個投影后的樣本進行分類.受此啟發(fā),基于深度學習的HSI小樣本分類算法大致可分為三個階段.首先,使用基于深度殘差三維卷積神經網絡的嵌入模型從訓練數據集中學習到一個投影函數,學習到的投影函數能夠將視覺特征映射到可泛化特征,在訓練過程中通過最小化損失函數令投影函數得到的嵌入特征類內間距較小且類間間距較大,且這個投影函數將對訓練中沒有出現的類也執(zhí)行相同的操作.其次,利用預先訓練好的網絡提取測試集中每個樣本的特征.最后,通過計算嵌入空間中嵌入與類原型之間的歐氏距離使用最近鄰分類器對每個投影后的樣本進行分類.之所以算法采用簡單的最近鄰分類器來避免搜索額外參數,是因為僅有少數標記樣本可用,而常用的分類器(如SVM)需要使用交叉驗證來確定最優(yōu)參數.基于深度學習的HSI小樣本分類算法結構如圖1所示.
為了使習得的投影函數適用于小樣本分類場景,算法使用抽樣小批量(episode)來模擬小樣本任務.從訓練數據集中隨機抽取一個類子集形成一個訓練批次來計算梯度并更新網絡參數.對于每一訓練批次,從每一個類中隨機抽取一個樣本作為支持集以模擬測試數據集上進行的小樣本分類任務,剩余樣本的子集作為查詢集.將支持集和查詢集的樣本輸入到網絡中,通過網絡提取其嵌入特征.對于查詢集的每一個樣本,其類分布函數基于嵌入空間中與支持集樣本的距離由式(1)[28]計算得到其中ck表示支持集第k類的深層特征,x表示查詢集樣本的嵌入特征,y表示x的類標簽,d(·)為歐氏距離函數.損失函數如式(2)[28]所示,最小化損失函數會使得查詢集樣本的嵌入特征fφ(x)與該樣本對應類k類原型ck之間的距離盡可能小,而與各個類原型之間的距離盡可能大.
本文編號:3074954
【文章來源】:聊城大學學報(自然科學版). 2020,33(06)
【文章頁數】:11 頁
【部分圖文】:
網絡模型結構
在小樣本分類任務中,關鍵在于使用中間層語義表示來使得源域數據與目標域數據在語義上相關,而這些語義表示通常編碼在高維向量空間中.常見的語義表示包括語義屬性和語義詞向量.給定一個預定義的語義表示,各類均能表示為一個屬性向量或一個語義詞向量,即類原型.語義表示通常是通用且共享的,可以用來在訓練數據集和測試數據集之間傳遞知識,從而識別新的、不可見的類.使用嵌入模型從訓練數據集中學習投影函數,投影函數將視覺特征映射為語義表示.利用學習到的投影函數將不可見類的未標記樣本表示在同一個嵌入空間.然后通過計算嵌入空間中嵌入與類原型的相似度使用分類模型對每個投影后的樣本進行分類.受此啟發(fā),基于深度學習的HSI小樣本分類算法大致可分為三個階段.首先,使用基于深度殘差三維卷積神經網絡的嵌入模型從訓練數據集中學習到一個投影函數,學習到的投影函數能夠將視覺特征映射到可泛化特征,在訓練過程中通過最小化損失函數令投影函數得到的嵌入特征類內間距較小且類間間距較大,且這個投影函數將對訓練中沒有出現的類也執(zhí)行相同的操作.其次,利用預先訓練好的網絡提取測試集中每個樣本的特征.最后,通過計算嵌入空間中嵌入與類原型之間的歐氏距離使用最近鄰分類器對每個投影后的樣本進行分類.之所以算法采用簡單的最近鄰分類器來避免搜索額外參數,是因為僅有少數標記樣本可用,而常用的分類器(如SVM)需要使用交叉驗證來確定最優(yōu)參數.基于深度學習的HSI小樣本分類算法結構如圖1所示.
為了使習得的投影函數適用于小樣本分類場景,算法使用抽樣小批量(episode)來模擬小樣本任務.從訓練數據集中隨機抽取一個類子集形成一個訓練批次來計算梯度并更新網絡參數.對于每一訓練批次,從每一個類中隨機抽取一個樣本作為支持集以模擬測試數據集上進行的小樣本分類任務,剩余樣本的子集作為查詢集.將支持集和查詢集的樣本輸入到網絡中,通過網絡提取其嵌入特征.對于查詢集的每一個樣本,其類分布函數基于嵌入空間中與支持集樣本的距離由式(1)[28]計算得到其中ck表示支持集第k類的深層特征,x表示查詢集樣本的嵌入特征,y表示x的類標簽,d(·)為歐氏距離函數.損失函數如式(2)[28]所示,最小化損失函數會使得查詢集樣本的嵌入特征fφ(x)與該樣本對應類k類原型ck之間的距離盡可能小,而與各個類原型之間的距離盡可能大.
本文編號:3074954
本文鏈接:http://www.sikaile.net/guanlilunwen/gongchengguanli/3074954.html