基于變分不等式的支持向量機(jī)算法研究
發(fā)布時(shí)間:2017-05-01 14:08
本文關(guān)鍵詞:基于變分不等式的支持向量機(jī)算法研究,由筆耕文化傳播整理發(fā)布。
【摘要】:支持向量機(jī)算法是當(dāng)下機(jī)器學(xué)習(xí)的研究熱點(diǎn)之一,它在處理數(shù)據(jù)分類(lèi)問(wèn)題時(shí)具有其獨(dú)到的優(yōu)勢(shì),并且能夠推廣應(yīng)用到其他的機(jī)器學(xué)習(xí)問(wèn)題中。傳統(tǒng)的支持向量機(jī)算法在處理大規(guī)模數(shù)據(jù)分類(lèi)問(wèn)題時(shí),有時(shí)會(huì)出現(xiàn)訓(xùn)練時(shí)間過(guò)長(zhǎng)或是運(yùn)算量過(guò)大等問(wèn)題,這也是算法需要進(jìn)行優(yōu)化的原因之一。本文將支持向量機(jī)中的凸優(yōu)化問(wèn)題轉(zhuǎn)化成等價(jià)的變分不等式問(wèn)題進(jìn)行求解,并基于定制鄰近點(diǎn)算法、交替方向法、慣性臨近點(diǎn)算法以及帶交替步長(zhǎng)的慣性鄰近點(diǎn)算法這四種算法的思想,分別構(gòu)造了四種新的優(yōu)化迭代算法對(duì)等價(jià)的變分不等式進(jìn)行求解。本文證明了這四種算法均能夠收斂到變分不等式的解,并且都具有穩(wěn)定的o(1/k)的收斂速度。文章最后采用了UCI上的多組數(shù)據(jù)集進(jìn)行數(shù)值實(shí)驗(yàn),選擇了廣泛被使用的支持向量機(jī)序列最小化(SMO)算法進(jìn)行對(duì)比實(shí)驗(yàn),證明了這四種改進(jìn)的算法具有更好的實(shí)際效果。
【關(guān)鍵詞】:變分不等式 支持向量機(jī) 鄰近點(diǎn)算法 交替方向法 慣性鄰近點(diǎn)算法
【學(xué)位授予單位】:南京大學(xué)
【學(xué)位級(jí)別】:碩士
【學(xué)位授予年份】:2016
【分類(lèi)號(hào)】:TP181
【目錄】:
- 摘要6-7
- Abstract7-8
- 第一章 引言8-12
- 1.1 支持向量機(jī)問(wèn)題介紹8-10
- 1.2 支持向量機(jī)研究現(xiàn)狀10
- 1.3 序列最小化算法10-11
- 1.4 本文工作11-12
- 第二章 變分不等式問(wèn)題12-14
- 2.1 零空間法簡(jiǎn)化優(yōu)化問(wèn)題12-13
- 2.2 支持向量機(jī)中的變分不等式問(wèn)題13-14
- 第三章 算法描述及收斂性分析14-25
- 3.1 定制鄰近點(diǎn)算法14-17
- 3.2 交替方向乘子算法17-19
- 3.3 慣性鄰近點(diǎn)算法19-25
- 3.3.1 一般的慣性鄰近點(diǎn)算法19-20
- 3.3.2 交替步長(zhǎng)的慣性鄰近點(diǎn)算法20-21
- 3.3.3 慣性鄰近點(diǎn)算法解變分不等式21-25
- 第四章 算法實(shí)現(xiàn)25-30
- 4.1 基于CPPA的SVM算法25-26
- 4.2 基于ADMM的SVM算法26-27
- 4.3 基于IPPA的SVM算法27-28
- 4.4 基于交替步長(zhǎng)IPPA的SVM算法28-30
- 第五章 數(shù)值實(shí)驗(yàn)30-37
- 5.1 二維數(shù)據(jù)分類(lèi)效果30-34
- 5.2 高維數(shù)據(jù)分類(lèi)效果34-37
- 第六章 總結(jié)與展望37-38
- 參考文獻(xiàn)38-41
- 致謝41-42
【參考文獻(xiàn)】
中國(guó)期刊全文數(shù)據(jù)庫(kù) 前4條
1 馮昌;李子達(dá);廖士中;;一種大規(guī)模支持向量機(jī)的高效求解算法[J];計(jì)算機(jī)科學(xué);2015年09期
2 姚程寬;許建華;;雙正則化參數(shù)的L_2-SVM參數(shù)選擇[J];計(jì)算機(jī)工程與應(yīng)用;2014年08期
3 CAI XingJu;GU GuoYong;HE BingSheng;YUAN XiaoMing;;A proximal point algorithm revisit on the alternating direction method of multipliers[J];Science China(Mathematics);2013年10期
4 ;Online LS-SVM for function estimation and classification[J];Journal of University of Science and Technology Beijing(English Edition);2003年05期
本文關(guān)鍵詞:基于變分不等式的支持向量機(jī)算法研究,,由筆耕文化傳播整理發(fā)布。
本文編號(hào):339088
本文鏈接:http://www.sikaile.net/kejilunwen/zidonghuakongzhilunwen/339088.html
最近更新
教材專(zhuān)著