【摘要】：機(jī)器學(xué)習(xí)在人工智能領(lǐng)域中扮演著極為重要的角色,它使得機(jī)器能夠?qū)Ω鞣N事物構(gòu)建模型,通過這些模型,機(jī)器就能夠?qū)ξ覀兊氖澜缧纬伞罢J(rèn)識”。近年來,機(jī)器學(xué)習(xí)能力得到了突飛猛進(jìn)的發(fā)展,一方面歸功于計(jì)算機(jī)硬件技術(shù)迅速發(fā)展使得存儲成本大幅降低、計(jì)算速度大幅提升;更重要的是關(guān)于機(jī)器學(xué)習(xí)算法的研究獲得了突破性進(jìn)展,尤其是近年深度學(xué)習(xí)算法的提出,使得機(jī)器對世界的認(rèn)識能力有了質(zhì)的飛躍。深度自動編碼器是深度學(xué)習(xí)算法之一,它是一種深層神經(jīng)網(wǎng)絡(luò),其最大的特點(diǎn)就是通過一種非監(jiān)督的逐層預(yù)訓(xùn)練使得網(wǎng)絡(luò)有一個較好的初始值,再通過有監(jiān)督的微調(diào)訓(xùn)練調(diào)整整個網(wǎng)絡(luò)的權(quán)值,最終能夠有效地提取數(shù)據(jù)中關(guān)鍵信息,形成特征。本文在研究深度自動編碼器算法的同時,也注重研究各類常用特征提取算法與分類器算法,通過實(shí)驗(yàn)比較各類算法差異,并探索改進(jìn)深度自動編碼器的方式。本論文主要研究內(nèi)容如下:(1)研究了多種征特征提取算法,包括經(jīng)典的特征提取算法:主成分分析、線性判別分析、核主成分分析,為區(qū)別深度學(xué)習(xí)算法,本文中將其概括為“淺層”學(xué)習(xí)算法。除了深度自動編碼器外,本文還研究了基于受限玻爾茲曼機(jī)的深度學(xué)習(xí)算法,包括自動編碼器的幾種改進(jìn)。通過圖像識別實(shí)驗(yàn)對各個算法性能進(jìn)行比較。(2)研究了多種分類器,包括Softmax、支持向量機(jī)以及K最近鄰。將深度自動編碼器與各種分類器結(jié)合,通過實(shí)驗(yàn)比較分類性能。(3)為了進(jìn)一步提升深度自動編碼器的特征學(xué)習(xí)能力,提出一種基于棧式去噪自動編碼器的邊際Fisher分析算法,該算法將邊際Fisher分析運(yùn)用于深度自動編碼器有監(jiān)督微調(diào)階段,通過描述同類樣本緊湊性的本征圖與描述異類樣本分離性的懲罰圖來優(yōu)化數(shù)據(jù)到特征空間的映射關(guān)系,通過實(shí)驗(yàn)驗(yàn)證了該方法可行性。
【圖文】：

圖 2.1 LDA 投影圖與 PCA 不同，LDA 是一種有監(jiān)督的學(xué)習(xí)方法，，因此要求帶標(biāo)簽的訓(xùn)練數(shù)據(jù)定的數(shù)據(jù)樣本集tt,其中 y 為數(shù)據(jù)標(biāo)簽，用于標(biāo)記該樣本的類別，據(jù)集類別為兩類，則 h t 。令 、 、 分別表示 h t 類樣本的集合

圖 2.2 BM 與 RBM 模型M 是一種基于能量(Energy-based)的模型，假設(shè)一個 RBM 有 n 個可見單，用向量 v 和 h 分別表示可見單元和隱單元的狀態(tài)，那么，對于一組給RBM 模型所具備的能量定義為：t t t 多 (2.29
【學(xué)位授予單位】：長沙理工大學(xué)
【學(xué)位級別】：碩士
【學(xué)位授予年份】：2016
【分類號】：TP391.41;TP18

【參考文獻(xiàn)】

相關(guān)期刊論文 前5條

1 張春霞;姬楠楠;王冠偉;;受限波爾茲曼機(jī)[J];工程數(shù)學(xué)學(xué)報;2015年02期

2 孫志軍;薛磊;許陽明;;基于深度學(xué)習(xí)的邊際Fisher分析特征提取算法[J];電子與信息學(xué)報;2013年04期

3 李森;劉希玉;;MFASSC:基于間隔Fisher分析的半監(jiān)督聚類方法[J];計(jì)算機(jī)應(yīng)用研究;2012年11期

4 孫志軍;薛磊;許陽明;王正;;深度學(xué)習(xí)研究綜述[J];計(jì)算機(jī)應(yīng)用研究;2012年08期

5 孫霞;王自強(qiáng);;基于自適應(yīng)核邊際費(fèi)希爾分析的人臉識別算法[J];計(jì)算機(jī)工程;2012年11期

相關(guān)博士學(xué)位論文 前1條

1 戴金波;基于視覺信息的圖像特征提取算法研究[D];吉林大學(xué);2013年

相關(guān)碩士學(xué)位論文 前6條

1 施徐敢;基于深度學(xué)習(xí)的人臉表情識別[D];浙江理工大學(xué);2015年

2 敖道敢;無監(jiān)督特征學(xué)習(xí)結(jié)合神經(jīng)網(wǎng)絡(luò)應(yīng)用于圖像識別[D];華南理工大學(xué);2014年

3 雒玉璽;稀疏自動編碼器及其加速算法的研究[D];蘭州大學(xué);2014年

4 梁靜;基于深度學(xué)習(xí)的語音識別研究[D];北京郵電大學(xué);2014年

5 吳婷;基于PCA和SVM的中國多民族人臉識別研究[D];中央民族大學(xué);2013年

6 林妙真;基于深度學(xué)習(xí)的人臉識別研究[D];大連理工大學(xué);2013年

本文編號：2522342