基于參數(shù)損失核正則化學(xué)習(xí)算法的誤差分析
發(fā)布時(shí)間:2023-11-30 17:14
隨著信息技術(shù)和人工智能的發(fā)展,機(jī)器學(xué)習(xí)研究受到越來(lái)越多學(xué)者的關(guān)注,而定量地分析機(jī)器學(xué)習(xí)算法的誤差是統(tǒng)計(jì)學(xué)習(xí)理論的重要研究?jī)?nèi)容之一.近年來(lái),一些研究表明含參數(shù)的可調(diào)節(jié)損失函數(shù)能有效改善核正則化算法的學(xué)習(xí)性能,本文主要對(duì)一些基于含參數(shù)損失的核正則化學(xué)習(xí)算法進(jìn)行研究,給出了學(xué)習(xí)算法的誤差界,并具體分析了參數(shù)對(duì)算法學(xué)習(xí)性能的調(diào)節(jié)作用.具體內(nèi)容如下:1.在實(shí)際應(yīng)用中,異常樣本點(diǎn)對(duì)學(xué)習(xí)算法性能的影響不容忽視,有時(shí)候甚至一個(gè)異常點(diǎn)就可能對(duì)整個(gè)算法的學(xué)習(xí)效果帶來(lái)很大影響.在回歸問題中,為了減輕異常樣本點(diǎn)對(duì)回歸性能的影響,本文對(duì)基于含同倫參數(shù)損失函數(shù)的魯棒核正則化回歸算法進(jìn)行了研究.由于含同倫參數(shù)的損失函數(shù)是一個(gè)擬凸函數(shù),通常的凸分析方法不適用,論文采用基于擬凸函數(shù)的分析技巧對(duì)算法進(jìn)行誤差分析,給出了具體的誤差界,異常樣本點(diǎn)對(duì)學(xué)習(xí)算法性能的影響程度也量化地得到了體現(xiàn).2.為減輕異常樣本點(diǎn)對(duì)分類性能的影響,本文對(duì)基于含參數(shù)魯棒損失的核正則化分類學(xué)習(xí)算法進(jìn)行了研究,給出了額外錯(cuò)分誤差和額外泛化誤差之間的重要比較不等式關(guān)系,并用凸分析方法進(jìn)行了具體誤差分析,分析結(jié)果顯示異常點(diǎn)對(duì)分類算法性能的影響可以通過適當(dāng)選...
【文章頁(yè)數(shù)】:164 頁(yè)
【學(xué)位級(jí)別】:博士
【文章目錄】:
中文摘要
英文摘要
第1章 引言
1.1 選題背景及研究意義
1.1.1 選題背景
1.1.2 研究意義
1.2 文獻(xiàn)綜述
1.2.1 經(jīng)典核正則化學(xué)習(xí)算法的研究現(xiàn)狀
1.2.2 核正則化在線學(xué)習(xí)算法的研究現(xiàn)狀
1.2.3 核正則化成對(duì)學(xué)習(xí)算法的研究現(xiàn)狀
1.3 研究?jī)?nèi)容和主要貢獻(xiàn)
1.3.1 研究?jī)?nèi)容和研究方法
1.3.2 主要?jiǎng)?chuàng)新點(diǎn)
第2章 基于參數(shù)損失核正則化回歸算法的誤差分析
2.1 再生核Hilbert空間及其性質(zhì)
2.2 基于參數(shù)損失的核正則化回歸模型
2.3 主要結(jié)論
2.4 主要結(jié)論的證明
2.4.1 與Hilbert空間上凸分析理論相關(guān)的一些概念及其性質(zhì)
2.4.2 一些重要概率不等式
2.4.3 一些引理
2.4.4 誤差估計(jì)主要定理的證明
第3章 基于參數(shù)損失核正則化分類算法的誤差分析
3.1 基于參數(shù)損失的核正則化分類算法
3.2 誤差分析
3.2.1 比較不等式
3.2.2 算法的誤差估計(jì)
3.3 主要結(jié)論的證明
第4章 基于參數(shù)損失核正則化成對(duì)學(xué)習(xí)算法的誤差分析
4.1 核正則化成對(duì)學(xué)習(xí)算法的一般框架
4.2 基于參數(shù)損失的核正則化成對(duì)學(xué)習(xí)模型
4.3 誤差分析
4.3.1 主要結(jié)論
4.3.2 模擬試驗(yàn)
4.4 主要結(jié)論的證明
第5章 基于參數(shù)二次損失核正則化在線學(xué)習(xí)算法的誤差分析
5.1 再生核Hilbert空間上的梯度
5.2 核正則化在線學(xué)習(xí)算法的一般框架
5.3 基于參數(shù)二次損失的核正則化在線學(xué)習(xí)算法
5.4 學(xué)習(xí)序列的收斂性
5.4.1 主要結(jié)論
5.4.2 一些引理
5.4.3 主要結(jié)論的證明
5.5 算法的誤差分析
第6章 基于參數(shù)二次損失核正則化在線成對(duì)學(xué)習(xí)算法的誤差分析
6.1 核正則化在線成對(duì)學(xué)習(xí)算法的一般框架
6.2 基于參數(shù)二次損失的核正則化在線成對(duì)學(xué)習(xí)算法
6.3 學(xué)習(xí)序列的收斂性
6.3.1 主要結(jié)論
6.3.2 一些引理
6.3.3 主要結(jié)論的證明
6.4 算法的誤差分析
6.4.1 主要結(jié)論
6.4.2 一些引理
6.4.3 主要結(jié)論的證明
6.5 成對(duì)Mercer核的構(gòu)造
第7章 結(jié)論與展望
7.1 主要結(jié)論
7.2 不足之處與未來(lái)工作展望
參考文獻(xiàn)
攻讀博士學(xué)位期間發(fā)表和已投稿的論文
致謝
本文編號(hào):3868870
【文章頁(yè)數(shù)】:164 頁(yè)
【學(xué)位級(jí)別】:博士
【文章目錄】:
中文摘要
英文摘要
第1章 引言
1.1 選題背景及研究意義
1.1.1 選題背景
1.1.2 研究意義
1.2 文獻(xiàn)綜述
1.2.1 經(jīng)典核正則化學(xué)習(xí)算法的研究現(xiàn)狀
1.2.2 核正則化在線學(xué)習(xí)算法的研究現(xiàn)狀
1.2.3 核正則化成對(duì)學(xué)習(xí)算法的研究現(xiàn)狀
1.3 研究?jī)?nèi)容和主要貢獻(xiàn)
1.3.1 研究?jī)?nèi)容和研究方法
1.3.2 主要?jiǎng)?chuàng)新點(diǎn)
第2章 基于參數(shù)損失核正則化回歸算法的誤差分析
2.1 再生核Hilbert空間及其性質(zhì)
2.2 基于參數(shù)損失的核正則化回歸模型
2.3 主要結(jié)論
2.4 主要結(jié)論的證明
2.4.1 與Hilbert空間上凸分析理論相關(guān)的一些概念及其性質(zhì)
2.4.2 一些重要概率不等式
2.4.3 一些引理
2.4.4 誤差估計(jì)主要定理的證明
第3章 基于參數(shù)損失核正則化分類算法的誤差分析
3.1 基于參數(shù)損失的核正則化分類算法
3.2 誤差分析
3.2.1 比較不等式
3.2.2 算法的誤差估計(jì)
3.3 主要結(jié)論的證明
第4章 基于參數(shù)損失核正則化成對(duì)學(xué)習(xí)算法的誤差分析
4.1 核正則化成對(duì)學(xué)習(xí)算法的一般框架
4.2 基于參數(shù)損失的核正則化成對(duì)學(xué)習(xí)模型
4.3 誤差分析
4.3.1 主要結(jié)論
4.3.2 模擬試驗(yàn)
4.4 主要結(jié)論的證明
第5章 基于參數(shù)二次損失核正則化在線學(xué)習(xí)算法的誤差分析
5.1 再生核Hilbert空間上的梯度
5.2 核正則化在線學(xué)習(xí)算法的一般框架
5.3 基于參數(shù)二次損失的核正則化在線學(xué)習(xí)算法
5.4 學(xué)習(xí)序列的收斂性
5.4.1 主要結(jié)論
5.4.2 一些引理
5.4.3 主要結(jié)論的證明
5.5 算法的誤差分析
第6章 基于參數(shù)二次損失核正則化在線成對(duì)學(xué)習(xí)算法的誤差分析
6.1 核正則化在線成對(duì)學(xué)習(xí)算法的一般框架
6.2 基于參數(shù)二次損失的核正則化在線成對(duì)學(xué)習(xí)算法
6.3 學(xué)習(xí)序列的收斂性
6.3.1 主要結(jié)論
6.3.2 一些引理
6.3.3 主要結(jié)論的證明
6.4 算法的誤差分析
6.4.1 主要結(jié)論
6.4.2 一些引理
6.4.3 主要結(jié)論的證明
6.5 成對(duì)Mercer核的構(gòu)造
第7章 結(jié)論與展望
7.1 主要結(jié)論
7.2 不足之處與未來(lái)工作展望
參考文獻(xiàn)
攻讀博士學(xué)位期間發(fā)表和已投稿的論文
致謝
本文編號(hào):3868870
本文鏈接:http://www.sikaile.net/shoufeilunwen/xxkjbs/3868870.html
最近更新
教材專著