非線性映射挖掘視圖互補信息的多視圖深度學習
發(fā)布時間:2021-01-02 08:50
多視圖學習包含兩個主要假設,即多視圖數(shù)據(jù)中的一致性和互補性,一致性假設指多視圖數(shù)據(jù)中各視圖數(shù)據(jù)間存在被共享的一致性信息,互補性假設指多視圖數(shù)據(jù)中各視圖數(shù)據(jù)都包含其他視圖數(shù)據(jù)中未包含的信息。但是,當下的多視圖學習算法主要是通過矩陣因式分解等經(jīng)典的機器學習算法對一致性和互補性中的一種假設展開研究。因此,當前的多視圖算法,在使用深度學習同時學習多視圖數(shù)據(jù)的一致性和互補性的方向上,仍是一個開放性的問題。為使深度神經(jīng)網(wǎng)絡同時利用多視圖數(shù)據(jù)的一致性和互補性,本文首先提出深度神經(jīng)網(wǎng)絡結構的基準模型,該模型通過自編碼器組成的編碼模塊學習多視圖數(shù)據(jù)的一致性信息,通過最大值池化、平均值池化和加權求和學習多視圖數(shù)據(jù)的互補信息,產(chǎn)生包含多視圖數(shù)據(jù)一致性和互補性的特征向量,最后通過全連接層完成預測。基準模型僅能探索多視圖數(shù)據(jù)的一種互補形式,為探索多種互補形式,本文基于基準模型又提出多視圖自注意力機制神經(jīng)網(wǎng)絡,該模型在使用自注意力機制學習多個包含多視圖數(shù)據(jù)互補信息的特征向量后,級聯(lián)各特征向量,產(chǎn)生包含多視圖數(shù)據(jù)一致性和多種互補性的增廣向量;鶞誓P秃投嘁晥D自注意力機制神經(jīng)網(wǎng)絡都是通過向量運算挖掘多數(shù)據(jù)視圖的互補性...
【文章來源】:中國石油大學(北京)北京市 211工程院校 教育部直屬院校
【文章頁數(shù)】:60 頁
【學位級別】:碩士
【文章目錄】:
摘要
ABSTRACT
引言
第1章 多視圖學習的研究進展
1.1 多視圖算法和多視圖學習任務介紹
1.1.1 協(xié)同訓練算法
1.1.2 協(xié)同正則化算法
1.1.3 裕度一致性算法
1.1.4 其他多視圖學習任務
1.2 多視圖深度學習
第2章 基準模型
2.1 基準模型結構介紹
2.1.1 基準模型中的編碼模塊
2.1.2 基準模型中的信息融合
2.1.3 基準模型中的目標函數(shù)
2.2 實驗結果
2.2.1 數(shù)據(jù)集介紹
2.2.2 各數(shù)據(jù)集上模型參數(shù)設置
2.2.3 實驗結果及分析
2.2.4 模型的收斂性分析
2.3 本章小結
第3章 多視圖自注意力機制神經(jīng)網(wǎng)絡
3.1 自注意力機制介紹
3.2 多視圖自注意力機制神經(jīng)網(wǎng)絡
3.2.1 多視圖自注意力機制神經(jīng)網(wǎng)絡框架
3.2.2 目標函數(shù)和正則化項
3.3 實驗結果
3.3.1 實驗數(shù)據(jù)和參數(shù)設置
3.3.2 對比算法
3.3.3 實驗結果及分析
3.3.4 多視圖自注意模型的收斂性分析
3.4 本章小結
第4章 多視圖膠囊網(wǎng)絡
4.1 膠囊網(wǎng)絡介紹
4.1.1 膠囊網(wǎng)絡中膠囊層的輸入和輸出
4.1.2 膠囊網(wǎng)絡中膠囊層的輸入和輸出
4.1.3 膠囊網(wǎng)絡損失函數(shù)
4.1.4 CapsNet網(wǎng)絡框架
4.1.5 膠囊網(wǎng)絡CapsNet的實驗結果和分析
4.2 多視圖膠囊網(wǎng)絡
4.2.1 多視圖膠囊網(wǎng)絡結構
4.2.2 目標函數(shù)
4.3 實驗結果
4.3.1 實驗數(shù)據(jù)、參數(shù)設置及對比方法
4.3.2 實驗結果及分析
4.3.3 多視圖膠囊網(wǎng)絡的收斂性分析
4.4 本章小結
第5章 結論
參考文獻
致謝
本文編號:2953051
【文章來源】:中國石油大學(北京)北京市 211工程院校 教育部直屬院校
【文章頁數(shù)】:60 頁
【學位級別】:碩士
【文章目錄】:
摘要
ABSTRACT
引言
第1章 多視圖學習的研究進展
1.1 多視圖算法和多視圖學習任務介紹
1.1.1 協(xié)同訓練算法
1.1.2 協(xié)同正則化算法
1.1.3 裕度一致性算法
1.1.4 其他多視圖學習任務
1.2 多視圖深度學習
第2章 基準模型
2.1 基準模型結構介紹
2.1.1 基準模型中的編碼模塊
2.1.2 基準模型中的信息融合
2.1.3 基準模型中的目標函數(shù)
2.2 實驗結果
2.2.1 數(shù)據(jù)集介紹
2.2.2 各數(shù)據(jù)集上模型參數(shù)設置
2.2.3 實驗結果及分析
2.2.4 模型的收斂性分析
2.3 本章小結
第3章 多視圖自注意力機制神經(jīng)網(wǎng)絡
3.1 自注意力機制介紹
3.2 多視圖自注意力機制神經(jīng)網(wǎng)絡
3.2.1 多視圖自注意力機制神經(jīng)網(wǎng)絡框架
3.2.2 目標函數(shù)和正則化項
3.3 實驗結果
3.3.1 實驗數(shù)據(jù)和參數(shù)設置
3.3.2 對比算法
3.3.3 實驗結果及分析
3.3.4 多視圖自注意模型的收斂性分析
3.4 本章小結
第4章 多視圖膠囊網(wǎng)絡
4.1 膠囊網(wǎng)絡介紹
4.1.1 膠囊網(wǎng)絡中膠囊層的輸入和輸出
4.1.2 膠囊網(wǎng)絡中膠囊層的輸入和輸出
4.1.3 膠囊網(wǎng)絡損失函數(shù)
4.1.4 CapsNet網(wǎng)絡框架
4.1.5 膠囊網(wǎng)絡CapsNet的實驗結果和分析
4.2 多視圖膠囊網(wǎng)絡
4.2.1 多視圖膠囊網(wǎng)絡結構
4.2.2 目標函數(shù)
4.3 實驗結果
4.3.1 實驗數(shù)據(jù)、參數(shù)設置及對比方法
4.3.2 實驗結果及分析
4.3.3 多視圖膠囊網(wǎng)絡的收斂性分析
4.4 本章小結
第5章 結論
參考文獻
致謝
本文編號:2953051
本文鏈接:http://www.sikaile.net/kejilunwen/shengwushengchang/2953051.html
最近更新
教材專著