隨著互聯(lián)網技術的快速發(fā)展,實際應用中存在著大量無標簽樣本和少量有標簽樣本。雖然有標簽樣本能夠有效提升監(jiān)督學習的性能,但是獲取充足的有標簽樣本往往需要耗費大量的時間。在這種情況下,僅使用少量有標簽樣本的監(jiān)督學習泛化能力不強,而完全基于無標簽樣本的無監(jiān)督學習往往效果不佳。這些傳統(tǒng)的機器學習范式不僅沒有性能上的優(yōu)勢,還浪費了數據資源。因此,研究能夠同時利用有標簽樣本和無標簽樣本的機器學習方法具有重要的意義。在有標簽樣本較少時,半監(jiān)督學習能夠利用大量無標簽樣本改進學習性能,近年來受到了廣泛的關注。經過二十多年的研究,半監(jiān)督學習己經成為一類重要的機器學習范式,并被成功應用到諸多領域。然而,半監(jiān)督學習在無標簽樣本的有效使用、高效利用以及在特征選擇中的有效性方面仍然存在一些有待解決的重要問題。本文對這些問題展開研究,主要貢獻總結如下:（1）對無標簽樣本的有效使用進行研究,提出了基于稀疏貝葉斯的半監(jiān)督學習框架以及基于該框架的半監(jiān)督算法SBS2LEM和SBS2LVB。這兩種算法具有良好的稀疏性,能夠在訓練過程中自動刪除無關的無標簽樣本,從而更加有效地利用無標簽樣本。實驗表明,SBS2LEM和SBS2LV... 

【文章頁數】：109 頁

【學位級別】：博士

【文章目錄】：
摘要
abstract
第1章 緒論
    1.1 研究背景
    1.2 國內外研究現(xiàn)狀
    1.3 有待研究的問題
    1.4 本文的主要研究內容
    1.5 本文的組織結構
第2章 相關知識介紹
    2.1 貝葉斯方法
    2.2 稀疏貝葉斯方法
    2.3 近似推斷方法
        2.3.1 變分貝葉斯方法
        2.3.2 拉普拉斯近似
    2.4 本章小結
第3章 基于稀疏貝葉斯的半監(jiān)督學習算法研究
    3.1 引言
    3.2 相關工作
    3.3 基于稀疏貝葉斯的半監(jiān)督學習算法
        3.3.1 基于稀疏貝葉斯的半監(jiān)督學習框架
        3.3.2 基于最大化后驗估計的稀疏貝葉斯半監(jiān)督學習算法
        3.3.3 基于全貝葉斯估計的稀疏貝葉斯半監(jiān)督學習算法
        3.3.4 預測樣本標簽
    3.4 實驗驗證
        3.4.1 人工數據集上的實驗
        3.4.2 基準數據集上的實驗
        3.4.3 UCI數據集上的實驗
    3.5 本章小結
第4章 基于稀疏貝葉斯的可擴展半監(jiān)督學習算法
    4.1 引言
    4.2 相關工作
    4.3 基于稀疏貝葉斯的可擴展半監(jiān)督學習算法
        4.3.1 基于拉普拉斯近似的稀疏貝葉斯半監(jiān)督學習算法
        4.3.2 增量稀疏貝葉斯半監(jiān)督學習算法
        4.3.3 復雜度分析
    4.4 魯棒性和泛化誤差分析
    4.5 實驗驗證
        4.5.1 標準數據集上的實驗
        4.5.2 參數敏感性分析
        4.5.3 中等規(guī)模和大規(guī)模數據集上的實驗
        4.5.4 可擴展性
    4.6 本章小結
第5章 基于貝葉斯的聯(lián)合半監(jiān)督特征選擇與分類算法
    5.1 引言
    5.2 相關工作
    5.3 基于貝葉斯的聯(lián)合半監(jiān)督特征選擇與分類算法
        5.3.1 問題描述與分析
        5.3.2 特征參數與無標簽樣本參數的先驗
        5.3.3 優(yōu)化參數
    5.4 實驗驗證
        5.4.1 實驗設置
        5.4.2 算法對噪聲特征和噪聲無標簽樣本的魯棒性
        5.4.3 算法在高維數據集上的性能
        5.4.4 算法的計算復雜度和收斂性分析
    5.5 本章小結
第6章 總結與展望
參考文獻
附錄A 泛化誤差邊界中的證明
致謝
在讀期間發(fā)表的學術論文與取得的研究成果


【參考文獻】：
期刊論文
[1]基于稀疏貝葉斯的流形學習[J]. 陳兵飛,江兵兵,周熙人,陳歡歡.  電子學報. 2018(01)

博士論文
[1]分布式變分貝葉斯算法及其應用[D]. 華俊豪.浙江大學 2018
[2]數據驅動的圖推斷算法研究[D]. 宮辰.上海交通大學 2016
[3]半監(jiān)督支持向量機學習方法的研究[D]. 李宇峰.南京大學 2013
[4]貝葉斯學習理論及其應用研究[D]. 宮秀軍.中國科學院研究生院（計算技術研究所） 2002

碩士論文
[1]概率特征選擇分類向量機[D]. 李昌.中國科學技術大學 2016



本文編號：3691003