多節(jié)點復(fù)雜貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)方法研究
發(fā)布時間:2022-07-14 16:14
以貝葉斯網(wǎng)絡(luò)(Bayesian Network,BN)為典型代表的概率圖模型具有清晰透明的變量間因果關(guān)系表示形式,能夠支持基于數(shù)據(jù)驅(qū)動的建模方法,并能夠利用條件概率描述變量間的依賴程度,為機器學(xué)習(xí)提供了在概率空間下的理論模型框架。在運用BN理論解決實際問題時,首要任務(wù)是根據(jù)研究對象構(gòu)建變量間內(nèi)在關(guān)系的圖形化表示模型。然而在BN模型構(gòu)建過程中,模型結(jié)構(gòu)搜索空間規(guī)模將隨著變量個數(shù)的增加呈指數(shù)級增長,尤其當(dāng)面對多節(jié)點復(fù)雜BN模型結(jié)構(gòu)訓(xùn)練問題時,挖掘各節(jié)點間的關(guān)聯(lián)關(guān)系具有極高的時間和空間復(fù)雜度。針對該問題,論文采取圖模型分解思想,將多節(jié)點復(fù)雜BN結(jié)構(gòu)學(xué)習(xí)任務(wù)劃分成一系列中小規(guī)模BN結(jié)構(gòu)優(yōu)化的子任務(wù),通過構(gòu)建中小規(guī)模BN結(jié)構(gòu)訓(xùn)練方法,來提高局部鄰域結(jié)構(gòu)的學(xué)習(xí)精度和計算效率,在此基礎(chǔ)上,將上述方法應(yīng)用于大規(guī)模BN拆分后的子圖結(jié)構(gòu)學(xué)習(xí)中,并通過合并子圖最終完成大型有向無環(huán)圖的構(gòu)建。論文的主要研究工作如下:(1)提出一種基于雙尺度約束模型的BN結(jié)構(gòu)自適應(yīng)學(xué)習(xí)算法,解決了由于結(jié)構(gòu)搜索空間約束不合理導(dǎo)致迭代尋優(yōu)過程中丟失潛在最優(yōu)解的問題。該算法將最大互信息和條件獨立性(Conditional Indepe...
【文章頁數(shù)】:160 頁
【學(xué)位級別】:博士
【文章目錄】:
摘要
Abstract
1 緒論
1.1 研究背景、目的及意義
1.1.1 研究背景
1.1.2 研究目的及意義
1.2 貝葉斯網(wǎng)絡(luò)國內(nèi)外研究進展
1.2.1 貝葉斯網(wǎng)絡(luò)表示
1.2.2 貝葉斯網(wǎng)絡(luò)學(xué)習(xí)
1.2.3 貝葉斯網(wǎng)絡(luò)推理
1.2.4 貝葉斯網(wǎng)絡(luò)應(yīng)用
1.3 多節(jié)點復(fù)雜貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)關(guān)鍵問題
1.4 論文研究內(nèi)容
1.4.1 中小規(guī)模貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)搜索空間約束模型構(gòu)建
1.4.2 基于改進進化方法的中小規(guī)模貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)搜索策略優(yōu)化
1.4.3 基于馬爾科夫覆蓋的大規(guī)模貝葉斯網(wǎng)絡(luò)的無向獨立圖構(gòu)建
1.4.4 基于局部拓撲信息的大規(guī)模貝葉斯網(wǎng)絡(luò)的無向獨立圖劃分
1.5 論文主要創(chuàng)新點
1.6 論文組織結(jié)構(gòu)
2 貝葉斯網(wǎng)絡(luò)相關(guān)理論與方法
2.1 引言
2.2 貝葉斯網(wǎng)絡(luò)基本概念
2.3 貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)方法概述
2.3.1 基于約束的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)方法
2.3.2 基于評分搜索的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)方法
2.3.3 貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)混合學(xué)習(xí)方法
2.4 基于圖劃分的多節(jié)點復(fù)雜貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)
2.4.1 圖模型分解的兩種模式
2.4.2 全局結(jié)構(gòu)草圖的選擇
2.4.3 無向獨立圖的分解方法
2.4.4 子圖結(jié)構(gòu)的合并方法
2.5 本章小結(jié)
3 中小規(guī)模貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)搜索空間約束模型構(gòu)建
3.1 引言
3.2 基于結(jié)構(gòu)搜索空間約束模型的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)問題描述
3.3 雙尺度約束模型
3.3.1 大尺度約束模型
3.3.2 小尺度約束模型
3.4 基于雙尺度約束模型的中小規(guī)模貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)自適應(yīng)學(xué)習(xí)算法
3.4.1 貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)自適應(yīng)學(xué)習(xí)過程
3.4.2 編碼方案設(shè)計及其理論證明
3.4.3 自適應(yīng)變異算子設(shè)計
3.4.4 其它算子描述
3.5 仿真實驗與分析
3.5.1 實驗方案設(shè)計
3.5.2 仿真實驗與結(jié)果分析
3.6 本章小結(jié)
4 基于改進進化方法的中小規(guī)模貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)混合學(xué)習(xí)算法
4.1 引言
4.2 貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)搜索問題描述
4.2.1 進化算法描述
4.2.2 基于進化算法的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化問題描述
4.3 搜索空間動態(tài)受限條件下基于改進進化方法的中小規(guī)模貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)混合學(xué)習(xí)算法
4.3.1 編碼方案設(shè)計與初始種群選擇
4.3.2 優(yōu)先重組算子設(shè)計
4.3.3 其它算子描述
4.3.4 算法實現(xiàn)
4.3.5 算法復(fù)雜度分析
4.4 仿真實驗與分析
4.4.1 實驗方案設(shè)計
4.4.2 仿真實驗與結(jié)果分析
4.5 本章小結(jié)
5 基于馬爾科夫覆蓋的大規(guī)模貝葉斯網(wǎng)絡(luò)無向獨立圖構(gòu)建
5.1 引言
5.2 基于馬爾科夫覆蓋的大規(guī)模貝葉斯網(wǎng)絡(luò)無向獨立圖構(gòu)建問題描述
5.3 基于三階段馬爾科夫覆蓋快速發(fā)現(xiàn)方法的大規(guī)模貝葉斯網(wǎng)絡(luò)無向獨立圖構(gòu)建算法
5.3.1 限制階段
5.3.2 擴展階段
5.3.3 收縮階段
5.4 仿真實驗與分析
5.4.1 實驗方案設(shè)計
5.4.2 仿真實驗與結(jié)果分析
5.5 本章小結(jié)
6 基于圖劃分的大規(guī)模貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)
6.1 引言
6.2 基于節(jié)點介數(shù)的無向獨立圖劃分問題描述
6.2.1 節(jié)點介數(shù)
6.2.2 基于節(jié)點介數(shù)的無向獨立圖劃分問題描述
6.3 基于局部拓撲信息的大規(guī)模貝葉斯網(wǎng)絡(luò)無向獨立圖分解模型
6.4 基于圖劃分的大規(guī)模貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)遞歸學(xué)習(xí)算法
6.4.1 算法理論基礎(chǔ)與定理證明
6.4.2 算法框架與實現(xiàn)
6.5 仿真實驗與分析
6.5.1 實驗方案設(shè)計
6.5.2 仿真實驗與結(jié)果分析
6.6 本章小節(jié)
7 總結(jié)與展望
7.1 論文內(nèi)容總結(jié)
7.2 研究工作展望
參考文獻
縮略語表
重要符號對照表
攻讀博士學(xué)位期間的研究成果及參與的科研項目
致謝
本文編號:3661463
【文章頁數(shù)】:160 頁
【學(xué)位級別】:博士
【文章目錄】:
摘要
Abstract
1 緒論
1.1 研究背景、目的及意義
1.1.1 研究背景
1.1.2 研究目的及意義
1.2 貝葉斯網(wǎng)絡(luò)國內(nèi)外研究進展
1.2.1 貝葉斯網(wǎng)絡(luò)表示
1.2.2 貝葉斯網(wǎng)絡(luò)學(xué)習(xí)
1.2.3 貝葉斯網(wǎng)絡(luò)推理
1.2.4 貝葉斯網(wǎng)絡(luò)應(yīng)用
1.3 多節(jié)點復(fù)雜貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)關(guān)鍵問題
1.4 論文研究內(nèi)容
1.4.1 中小規(guī)模貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)搜索空間約束模型構(gòu)建
1.4.2 基于改進進化方法的中小規(guī)模貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)搜索策略優(yōu)化
1.4.3 基于馬爾科夫覆蓋的大規(guī)模貝葉斯網(wǎng)絡(luò)的無向獨立圖構(gòu)建
1.4.4 基于局部拓撲信息的大規(guī)模貝葉斯網(wǎng)絡(luò)的無向獨立圖劃分
1.5 論文主要創(chuàng)新點
1.6 論文組織結(jié)構(gòu)
2 貝葉斯網(wǎng)絡(luò)相關(guān)理論與方法
2.1 引言
2.2 貝葉斯網(wǎng)絡(luò)基本概念
2.3 貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)方法概述
2.3.1 基于約束的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)方法
2.3.2 基于評分搜索的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)方法
2.3.3 貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)混合學(xué)習(xí)方法
2.4 基于圖劃分的多節(jié)點復(fù)雜貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)
2.4.1 圖模型分解的兩種模式
2.4.2 全局結(jié)構(gòu)草圖的選擇
2.4.3 無向獨立圖的分解方法
2.4.4 子圖結(jié)構(gòu)的合并方法
2.5 本章小結(jié)
3 中小規(guī)模貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)搜索空間約束模型構(gòu)建
3.1 引言
3.2 基于結(jié)構(gòu)搜索空間約束模型的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)問題描述
3.3 雙尺度約束模型
3.3.1 大尺度約束模型
3.3.2 小尺度約束模型
3.4 基于雙尺度約束模型的中小規(guī)模貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)自適應(yīng)學(xué)習(xí)算法
3.4.1 貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)自適應(yīng)學(xué)習(xí)過程
3.4.2 編碼方案設(shè)計及其理論證明
3.4.3 自適應(yīng)變異算子設(shè)計
3.4.4 其它算子描述
3.5 仿真實驗與分析
3.5.1 實驗方案設(shè)計
3.5.2 仿真實驗與結(jié)果分析
3.6 本章小結(jié)
4 基于改進進化方法的中小規(guī)模貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)混合學(xué)習(xí)算法
4.1 引言
4.2 貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)搜索問題描述
4.2.1 進化算法描述
4.2.2 基于進化算法的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化問題描述
4.3 搜索空間動態(tài)受限條件下基于改進進化方法的中小規(guī)模貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)混合學(xué)習(xí)算法
4.3.1 編碼方案設(shè)計與初始種群選擇
4.3.2 優(yōu)先重組算子設(shè)計
4.3.3 其它算子描述
4.3.4 算法實現(xiàn)
4.3.5 算法復(fù)雜度分析
4.4 仿真實驗與分析
4.4.1 實驗方案設(shè)計
4.4.2 仿真實驗與結(jié)果分析
4.5 本章小結(jié)
5 基于馬爾科夫覆蓋的大規(guī)模貝葉斯網(wǎng)絡(luò)無向獨立圖構(gòu)建
5.1 引言
5.2 基于馬爾科夫覆蓋的大規(guī)模貝葉斯網(wǎng)絡(luò)無向獨立圖構(gòu)建問題描述
5.3 基于三階段馬爾科夫覆蓋快速發(fā)現(xiàn)方法的大規(guī)模貝葉斯網(wǎng)絡(luò)無向獨立圖構(gòu)建算法
5.3.1 限制階段
5.3.2 擴展階段
5.3.3 收縮階段
5.4 仿真實驗與分析
5.4.1 實驗方案設(shè)計
5.4.2 仿真實驗與結(jié)果分析
5.5 本章小結(jié)
6 基于圖劃分的大規(guī)模貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)
6.1 引言
6.2 基于節(jié)點介數(shù)的無向獨立圖劃分問題描述
6.2.1 節(jié)點介數(shù)
6.2.2 基于節(jié)點介數(shù)的無向獨立圖劃分問題描述
6.3 基于局部拓撲信息的大規(guī)模貝葉斯網(wǎng)絡(luò)無向獨立圖分解模型
6.4 基于圖劃分的大規(guī)模貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)遞歸學(xué)習(xí)算法
6.4.1 算法理論基礎(chǔ)與定理證明
6.4.2 算法框架與實現(xiàn)
6.5 仿真實驗與分析
6.5.1 實驗方案設(shè)計
6.5.2 仿真實驗與結(jié)果分析
6.6 本章小節(jié)
7 總結(jié)與展望
7.1 論文內(nèi)容總結(jié)
7.2 研究工作展望
參考文獻
縮略語表
重要符號對照表
攻讀博士學(xué)位期間的研究成果及參與的科研項目
致謝
本文編號:3661463
本文鏈接:http://www.sikaile.net/kejilunwen/sousuoyinqinglunwen/3661463.html
最近更新
教材專著