深度學習在計算機視覺領(lǐng)域中有著極其優(yōu)異的表現(xiàn)。近年來,基于深度卷積神經(jīng)網(wǎng)絡(luò)的圖像分類算法在優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu)、防止過擬合、加快訓練速度等方面做了許多改進。本文首先提出利用主動學習和深度學習相結(jié)合的方式進行訓練樣本集優(yōu)化,然后利用聯(lián)合損失函數(shù)監(jiān)督訓練提高卷積神經(jīng)網(wǎng)絡(luò)在圖像分類應用中性能,并且將改進的聯(lián)合損失監(jiān)督算法應用于人臉識別,最后將聯(lián)合損失監(jiān)督方式擴展到圖像超分辨率。訓練卷積神經(jīng)網(wǎng)絡(luò)往往需要海量已標注的樣本數(shù)據(jù),然而并不是樣本越多訓練效果越好。本文引入主動學習進行樣本集優(yōu)化,篩選出更有訓練價值的樣本。本文對經(jīng)典的后驗概率取樣算法做了改進,提出基于熵值排序的主動學習算法,實驗證明主動學習算法,尤其是本文改進的算法能夠篩選出更有訓練價值的樣本,進而提高網(wǎng)絡(luò)性能。對于圖像分類任務,本文認為如果圖像特征在特征空間中同類之間更加聚合而異類之間更加分散,那么分類效果會更好。因此,本文提出用均方誤差和交叉熵損失函數(shù)同時監(jiān)督訓練,優(yōu)化均方誤差損失可以使同類樣本特征聚合,優(yōu)化交叉熵損失可以使異類樣本特征分散。為此,本文還提出一種簡單有效的樣本組織方式用于訓練。對于人臉識別任務,余弦距離度量比歐氏距離更加方便有...

【文章頁數(shù)】：59 頁

【學位級別】：碩士

【部分圖文】：

圖２－４?Ｓｉｇｍｏｉｄ和雙曲正切激活函數(shù)圖像??

了深度殘差學習框架。利用殘差映射代替每一個堆疊的淺層網(wǎng)絡(luò)的基礎(chǔ)映射。用??研ＪＣ）表示一個基礎(chǔ)映射，則可以用堆疊的非線性映射來擬合映射＾（Ｘ）＝／／（ＪＣ）－Ｘ。原??始的映射就可表示為Ｆ（；ｃ）＋Ｘ。如圖２－３所示，該映射關(guān)系可以表示為近路連接，??該連接方式既不增加網(wǎng)絡(luò)參數(shù)，....

圖２－６全連接??１３??

??加穩(wěn)定。ＥＬＵ在公式（２－９）中定義，其函數(shù)圖像如圖２－５（ｄ）所示。??而，從＝饑似０）?＋?ｍｉｎ（；ｌ（ｅｚｗ．ｆｃ?－?１），?０）?（２－９）??其中；Ｊ是一個預先定義的參數(shù)。??２．３池化層??池化是卷積神經(jīng)網(wǎng)絡(luò)的一個十分重要的概念，它通過降低特征圖的分辨率來??....

圖３－２?ＭＮＩＳＴ和ＣｉｆａｒｌＯ中的圖片??實驗所用的網(wǎng)絡(luò)結(jié)構(gòu)如表３－１所示，我們使用Ｃａｆｆｅ深度學習框架進行實驗

首先介紹本章實驗用到的訓練和測試數(shù)據(jù)集ＭＮＩＳＴ、Ｃｉｆａｒ－１０和Ｃｉｆａｒ－１００。??我們用到的ＭＮＩＳＴ數(shù)據(jù)集是分辨率為２８Ｘ２８的灰度圖像，其內(nèi)容為０￣９十個??類別的手寫數(shù)字，如圖３－２（ａ）所示。該數(shù)據(jù)集包含六萬個訓練樣本和一萬個測試??樣本。Ｃｉｆａｒ－１０和Ｃｉ....

本文編號：4048402