結合稀疏貝葉斯學習和混合高斯的主動學習算法研究
發(fā)布時間：2021-08-30 21:55
在現(xiàn)實生活中,人們可以很容易地獲取大量的數(shù)據(jù),但是通常其中大部分數(shù)據(jù)是沒有樣本標簽的。傳統(tǒng)的監(jiān)督學習算法僅使用少部分有標簽的數(shù)據(jù)進行訓練,由于訓練樣本規(guī)模小,信息不完備,很難達到較好的預測效果。如果對沒有樣本標簽的樣本進行人工標注,又需要消耗大量的時間和精力,甚至在有些情況下根本無法完成對大量樣本的標注。針對這個現(xiàn)實問題,傳統(tǒng)的監(jiān)督學習算法無法提出一個準確、高效的解決方案,主動學習算法卻可以解決這個問題。利用主動學習的專家標注機制可以不斷選擇信息量大的樣本進行標注擴充樣本集,最終獲得較優(yōu)的預測模型。相關向量機是一種典型的稀疏貝葉斯學習模型,其具有很強的稀疏性,提供更靈活的核函數(shù)選擇以及概率化的輸出,并且也有著不亞于其他機器學習方法的預測性能。因此,本文主要結合相關向量機進行主動學習算法的研究,使用混合高斯探索樣本的分布特征,基于馬氏距離構造結合樣本分布特性的混合高斯核函數(shù),改進經(jīng)典的相關向量機模型,提出基于混合高斯核的直推式相關向量機算法,并將其應用到主動學習框架中,定義一種新的主動學習算法。本文的主要研究工作如下:（1）為了在學習過程中充分考慮樣本的分布特性,利用混合高斯探索樣本的分...
【文章來源】：武漢理工大學湖北省 211工程院校 教育部直屬院校
【文章頁數(shù)】：66 頁
【學位級別】：碩士
【部分圖文】：
歐氏距離和馬氏距離對比圖
圖 2.2 不同核函數(shù)的 KTA 值對比綜上所述，混合高斯核函數(shù)考慮了樣本的分布特性，將樣本看作是一系列分布的疊加，基于馬氏距離分析了樣本關于各個高斯分布的聯(lián)系，能很好地數(shù)據(jù)樣本的特征，并將這些特性通過核函數(shù)的映射帶入到高維特征空間中了核向量與目標向量之間的相似度，因此，混合高斯核具有較強的抓取樣本的能力，利用核排列方法評估出混合高斯核函數(shù)具有較強的性能。實驗與分析仿真數(shù)據(jù)集為了進一步地驗證混合高斯核函數(shù)的有效性，使用仿真數(shù)據(jù)集 TwoMoon實驗，將混合高斯核函數(shù)應用到 RVM 算法中，和高斯核函數(shù)進行對比，使法的評價標準（準確率）對比兩種核函數(shù)的性能。為了在不同的數(shù)據(jù)場景下充分驗證使用混合高斯核函數(shù)的 RVM 算法的
用高斯核和混合高斯核進行 RVM 算法的訓練，根據(jù)得到的 RVM 模型對整個數(shù)據(jù)集進行預測，比較預測結果的準確性。實驗一的結果如圖 2.3 所示，其中圖（a）顯示使用高斯核函數(shù)的預測結果，圖（b）顯示使用混合高斯核函數(shù)的預測結果。圖中虛線代表預測模型的決策邊界，黑色大圓圈表示相關向量。從圖中可以看出，使用高斯核函數(shù)得到的預測結果準確率為 96.29%，使用混合高斯核函數(shù)得到的預測結果準確率為 96.89%，略高于高斯核函數(shù)。
【參考文獻】：
期刊論文
[1]基于遺傳規(guī)劃和主動學習的本體實例匹配[J]. 孫煜飛,馬良荔,解嘉宇. 計算機應用研究. 2018(05)
[2]基于雙層采樣主動學習的社交網(wǎng)絡虛假用戶檢測方法[J]. 譚侃,高旻,李文濤,田仁麗,文俊浩,熊慶宇. 自動化學報. 2017(03)
[3]動態(tài)神經(jīng)網(wǎng)絡分類器主動學習算法及其智能控制應用[J]. 任紅格,李冬梅,李福進. 計算機應用與軟件. 2016(07)
[4]一種基于主動學習的惡意代碼檢測方法[J]. 毛蔚軒,蔡忠閩,童力. 軟件學報. 2017(02)
[5]基于高斯過程模型的異常檢測算法[J]. 于冰潔,夏戰(zhàn)國,王久龍. 計算機工程與設計. 2016(04)
[6]基于相關系數(shù)的決策樹優(yōu)化算法[J]. 董躍華,劉力. 計算機工程與科學. 2015(09)
[7]主動特征學習及其在盲圖像質量評價中的應用[J]. 高飛,高新波. 計算機學報. 2014(10)
[8]基于特征子集區(qū)分度與支持向量機的特征選擇算法[J]. 謝娟英,謝維信. 計算機學報. 2014(08)
[9]一種新的基于SVM和主動學習的圖像檢索方法[J]. 彭晏飛,尚永剛,王德建. 計算機工程與科學. 2014(07)
[10]基于SVM主動學習技術的PU文本分類[J]. 富震. 計算技術與自動化. 2014(01)
博士論文
[1]快速塊稀疏貝葉斯學習算法的理論與應用[D]. 劉本源.國防科學技術大學 2015
[2]相關向量機多分類算法的研究與應用[D]. 柳長源.哈爾濱工程大學 2013
[3]結合主動學習的視覺場景理解[D]. 姚拓中.浙江大學 2011
碩士論文
[1]基于主動學習的微博情感分析方法研究[D]. 關雅夫.吉林大學 2017
本文編號：3373569
【文章來源】：武漢理工大學湖北省 211工程院校 教育部直屬院校
【文章頁數(shù)】：66 頁
【學位級別】：碩士
【部分圖文】：
歐氏距離和馬氏距離對比圖
圖 2.2 不同核函數(shù)的 KTA 值對比綜上所述，混合高斯核函數(shù)考慮了樣本的分布特性，將樣本看作是一系列分布的疊加，基于馬氏距離分析了樣本關于各個高斯分布的聯(lián)系，能很好地數(shù)據(jù)樣本的特征，并將這些特性通過核函數(shù)的映射帶入到高維特征空間中了核向量與目標向量之間的相似度，因此，混合高斯核具有較強的抓取樣本的能力，利用核排列方法評估出混合高斯核函數(shù)具有較強的性能。實驗與分析仿真數(shù)據(jù)集為了進一步地驗證混合高斯核函數(shù)的有效性，使用仿真數(shù)據(jù)集 TwoMoon實驗，將混合高斯核函數(shù)應用到 RVM 算法中，和高斯核函數(shù)進行對比，使法的評價標準（準確率）對比兩種核函數(shù)的性能。為了在不同的數(shù)據(jù)場景下充分驗證使用混合高斯核函數(shù)的 RVM 算法的
用高斯核和混合高斯核進行 RVM 算法的訓練，根據(jù)得到的 RVM 模型對整個數(shù)據(jù)集進行預測，比較預測結果的準確性。實驗一的結果如圖 2.3 所示，其中圖（a）顯示使用高斯核函數(shù)的預測結果，圖（b）顯示使用混合高斯核函數(shù)的預測結果。圖中虛線代表預測模型的決策邊界，黑色大圓圈表示相關向量。從圖中可以看出，使用高斯核函數(shù)得到的預測結果準確率為 96.29%，使用混合高斯核函數(shù)得到的預測結果準確率為 96.89%，略高于高斯核函數(shù)。
【參考文獻】：
期刊論文
[1]基于遺傳規(guī)劃和主動學習的本體實例匹配[J]. 孫煜飛,馬良荔,解嘉宇. 計算機應用研究. 2018(05)
[2]基于雙層采樣主動學習的社交網(wǎng)絡虛假用戶檢測方法[J]. 譚侃,高旻,李文濤,田仁麗,文俊浩,熊慶宇. 自動化學報. 2017(03)
[3]動態(tài)神經(jīng)網(wǎng)絡分類器主動學習算法及其智能控制應用[J]. 任紅格,李冬梅,李福進. 計算機應用與軟件. 2016(07)
[4]一種基于主動學習的惡意代碼檢測方法[J]. 毛蔚軒,蔡忠閩,童力. 軟件學報. 2017(02)
[5]基于高斯過程模型的異常檢測算法[J]. 于冰潔,夏戰(zhàn)國,王久龍. 計算機工程與設計. 2016(04)
[6]基于相關系數(shù)的決策樹優(yōu)化算法[J]. 董躍華,劉力. 計算機工程與科學. 2015(09)
[7]主動特征學習及其在盲圖像質量評價中的應用[J]. 高飛,高新波. 計算機學報. 2014(10)
[8]基于特征子集區(qū)分度與支持向量機的特征選擇算法[J]. 謝娟英,謝維信. 計算機學報. 2014(08)
[9]一種新的基于SVM和主動學習的圖像檢索方法[J]. 彭晏飛,尚永剛,王德建. 計算機工程與科學. 2014(07)
[10]基于SVM主動學習技術的PU文本分類[J]. 富震. 計算技術與自動化. 2014(01)
博士論文
[1]快速塊稀疏貝葉斯學習算法的理論與應用[D]. 劉本源.國防科學技術大學 2015
[2]相關向量機多分類算法的研究與應用[D]. 柳長源.哈爾濱工程大學 2013
[3]結合主動學習的視覺場景理解[D]. 姚拓中.浙江大學 2011
碩士論文
[1]基于主動學習的微博情感分析方法研究[D]. 關雅夫.吉林大學 2017
本文編號：3373569
本文鏈接：http://www.sikaile.net/kejilunwen/zidonghuakongzhilunwen/3373569.html
最近更新
教材專著
