監(jiān)督學(xué)習(xí)的精度極大依賴于標(biāo)簽樣本數(shù)量,人工標(biāo)記樣本的成本很高,利用大量無標(biāo)簽樣本及有限數(shù)量標(biāo)簽樣本的半監(jiān)督學(xué)習(xí)成為提升算法精度的有效方法。深度學(xué)習(xí)的生成模型僅利用輸入樣本本身作監(jiān)督,在半監(jiān)督學(xué)習(xí)中可以幫助學(xué)習(xí)器利用大量無標(biāo)簽樣本數(shù)據(jù)學(xué)習(xí)樣本的分布情況,成為半監(jiān)督學(xué)習(xí)領(lǐng)域的新方法。本文在詳細(xì)研究了對抗自編碼器（AAE）模型結(jié)構(gòu)及訓(xùn)練過程后發(fā)現(xiàn):在半監(jiān)督分類任務(wù)中,模型具有兩個不同的判別器,兩種約束在訓(xùn)練過程中會削弱彼此的正則化能力;同時在半監(jiān)督分類任務(wù)中,并不關(guān)心解碼器生成樣本的樣式問題,并且實驗證明,對標(biāo)簽變量進行約束的同時也能夠使得隱變量分布向高斯分布靠攏。因此,本文對AAE模型進行優(yōu)化,提出了半監(jiān)督對抗自編碼器SSAAE（Semi-Supervised Adversarial Auto-Encoder）模型。SSAAE模型僅通過對標(biāo)簽變量進行正則化約束,消除了AAE模型中隱變量判別器和標(biāo)簽變量判別器兩個判別器對正則化的影響問題。在MNIST數(shù)據(jù)集、SVHN數(shù)據(jù)集以及醫(yī)學(xué)圖像上實驗,分類結(jié)果優(yōu)于AAE模型,且優(yōu)化后的模型更易訓(xùn)練,收斂速度更快。AAE模型以多層感知機作為網(wǎng)絡(luò)的基礎(chǔ)結(jié)構(gòu)... 

【文章來源】：青島大學(xué)山東省

【文章頁數(shù)】：56 頁

【學(xué)位級別】：碩士

【文章目錄】：
摘要
abstract
第一章 緒論
    1.1 研究背景及意義
    1.2 半監(jiān)督學(xué)習(xí)研究現(xiàn)狀
    1.3 本文組織結(jié)構(gòu)
第二章 相關(guān)基礎(chǔ)知識
    2.1 神經(jīng)網(wǎng)絡(luò)
        2.1.1 感知機模型
        2.1.2 前向和反向傳播
    2.2 自編碼器
        2.2.1 傳統(tǒng)自編碼器
        2.2.2 變分自編碼器
    2.3 生成式對抗網(wǎng)絡(luò)
        2.3.1 GAN的基本原理
        2.3.2 條件生成式對抗網(wǎng)絡(luò)
    2.4 對抗自編碼器
        2.4.1 對抗自編碼器模型
        2.4.2 編碼器的選擇
        2.4.3 訓(xùn)練過程
    2.5 本章小結(jié)
第三章 基于對抗自編碼器的半監(jiān)督分類模型研究
    3.1 對抗自編碼器與半監(jiān)督的結(jié)合
    3.2 半監(jiān)督對抗自編碼器的研究
        3.2.1 問題分析
        3.2.2 半監(jiān)督對抗自編碼器
    3.3 半監(jiān)督深度卷積對抗自編碼器的研究
        3.3.1 問題分析
        3.3.2 深度卷積生成式對抗網(wǎng)絡(luò)
        3.3.3 半監(jiān)督深度卷積對抗自編碼器
    3.4 本章小結(jié)
第四章 基于對抗自編碼器的半監(jiān)督分類模型實驗分析
    4.1 實驗環(huán)境及數(shù)據(jù)集
        4.1.1 實驗環(huán)境
        4.1.2 實驗數(shù)據(jù)集
    4.2 模型設(shè)計及參數(shù)設(shè)置
    4.3 實驗結(jié)果與分析
        4.3.1 半監(jiān)督分類準(zhǔn)確率
        4.3.2 編碼器輸出分布比較
        4.3.3 重構(gòu)輸出比較
    4.4 醫(yī)學(xué)圖像上的分類
        4.4.1 實驗數(shù)據(jù)及預(yù)處理
        4.4.2 模型設(shè)計
        4.4.3 實驗結(jié)果分析
    4.5 本章小結(jié)
第五章 總結(jié)與展望
參考文獻
攻讀學(xué)位期間的研究成果
致謝


【參考文獻】：
期刊論文
[1]半監(jiān)督學(xué)習(xí)理論及其研究進展概述[J]. 屠恩美,楊杰.  上海交通大學(xué)學(xué)報. 2018(10)
[2]基于半監(jiān)督學(xué)習(xí)生成對抗網(wǎng)絡(luò)的人臉還原算法研究[J]. 曹志義,牛少彰,張繼威.  電子與信息學(xué)報. 2018(02)
[3]基于深度學(xué)習(xí)的語音識別技術(shù)現(xiàn)狀與展望[J]. 戴禮榮,張仕良,黃智穎.  數(shù)據(jù)采集與處理. 2017(02)
[4]面向自然語言處理的深度學(xué)習(xí)研究[J]. 奚雪峰,周國棟.  自動化學(xué)報. 2016(10)
[5]人工神經(jīng)網(wǎng)絡(luò)的發(fā)展及應(yīng)用[J]. 梁燁妮.  硅谷. 2014(12)
[6]具有噪聲過濾功能的協(xié)同訓(xùn)練半監(jiān)督主動學(xué)習(xí)算法[J]. 詹永照,陳亞必.  模式識別與人工智能. 2009(05)



本文編號：3138951