在線預(yù)測一直是智能信息處理領(lǐng)域的前沿課題,在異常診斷、系統(tǒng)控制、信號監(jiān)測和行為推理等工程問題中具有重要的應(yīng)用價(jià)值。機(jī)器學(xué)習(xí)通過數(shù)據(jù)驅(qū)動的方式建立表征數(shù)據(jù)關(guān)系的非線性模型,能夠?qū)π聰?shù)據(jù)做出有效預(yù)測。作為機(jī)器學(xué)習(xí)的代表性方法,極限學(xué)習(xí)機(jī)由于具有理論解析解和收斂速度快的優(yōu)勢,適用于具有海量、多樣、高速和真實(shí)等特征的大數(shù)據(jù)環(huán)境。在實(shí)際場景中,由于實(shí)時(shí)采樣的業(yè)務(wù)需求和計(jì)算機(jī)緩存的限制,數(shù)據(jù)呈現(xiàn)出逐個(gè)到達(dá)或片段式到達(dá)的特點(diǎn),形成實(shí)時(shí)數(shù)據(jù)流。復(fù)雜多變的流式數(shù)據(jù)要求模型能根據(jù)當(dāng)前數(shù)據(jù)片段的預(yù)測結(jié)果自動調(diào)整結(jié)構(gòu),無需人工參數(shù)調(diào)整和學(xué)習(xí)模型的重新訓(xùn)練,這對預(yù)測算法的有效性和適應(yīng)性提出了挑戰(zhàn)。極限學(xué)習(xí)機(jī)通過模擬人類學(xué)習(xí)行為,建立多層神經(jīng)元連接結(jié)構(gòu),表征屬性和標(biāo)簽的映射關(guān)系,實(shí)現(xiàn)具有語義特征的智能信息處理。在訓(xùn)練階段,利用M-P廣義逆計(jì)算輸出權(quán)重,避免了繁雜的參數(shù)遍歷過程。其中自適應(yīng)極限學(xué)習(xí)機(jī)、懲罰加權(quán)極限學(xué)習(xí)機(jī)等能夠有效解決復(fù)雜函數(shù)逼近問題,已經(jīng)成功應(yīng)用于離線預(yù)測。但是隨著數(shù)據(jù)的累積,數(shù)據(jù)結(jié)構(gòu)會隨著時(shí)間顯著變化,導(dǎo)致離線預(yù)測方法失效。如何建立參數(shù)和結(jié)構(gòu)自動調(diào)整的在線預(yù)測模型,適應(yīng)變化環(huán)境的學(xué)習(xí)任務(wù)仍有待深入研究和進(jìn)一步完善。本文考慮不同類型的數(shù)據(jù)標(biāo)簽和不同結(jié)構(gòu)的屬性集合,圍繞在線預(yù)測的極限學(xué)習(xí)機(jī)方法展開研究,解決長期累積數(shù)據(jù)、時(shí)變的不平衡標(biāo)簽、自增長特征空間和非結(jié)構(gòu)化圖像序列的在線預(yù)測問題,旨在提高機(jī)器學(xué)習(xí)方法在變化環(huán)境中的魯棒性和適應(yīng)性,探索大規(guī)模數(shù)據(jù)在線預(yù)測的新方法。論文的主要?jiǎng)?chuàng)新性工作如下:(1)針對長期預(yù)測中模型自動調(diào)整問題,提出了平衡方差和偏差的動態(tài)ELM方法,解決了經(jīng)典ELM預(yù)測模型依賴初始結(jié)構(gòu),無法定量調(diào)整的問題。該方法引入了關(guān)于擬合程度的度量參數(shù),將時(shí)間序列的誤差進(jìn)行分解,比較了方差和偏差的變化,實(shí)現(xiàn)了對過擬合和欠擬合的定量表達(dá);建立平衡擬合能力和自由度的懲罰回歸模型,采用粒子群算法實(shí)現(xiàn)了隱層節(jié)點(diǎn)數(shù)目和正則化參數(shù)的聯(lián)合優(yōu)化,形成了自動更新策略,避免了交互式的參數(shù)調(diào)整,保證了預(yù)測模型適用于長期在線預(yù)測。實(shí)驗(yàn)結(jié)果表明所提方法能夠適應(yīng)數(shù)據(jù)變化趨勢,與代表性的在線預(yù)測方法相比,所提方法在4組不同屬性維度的UCI標(biāo)準(zhǔn)數(shù)據(jù)中具有更低的泛化誤差和更高的相關(guān)系數(shù)。(2)針對多類樣本標(biāo)簽不平衡序列在線預(yù)測問題,提出了基于兩步博弈的集成動態(tài)ELM方法,解決了數(shù)據(jù)標(biāo)簽平衡度偏移和重構(gòu)數(shù)據(jù)不準(zhǔn)確的問題。該方法采用了數(shù)據(jù)處理和模型更新聯(lián)合策略,進(jìn)而自動匹配樣本的結(jié)構(gòu)變化;在數(shù)據(jù)處理階段,采用動態(tài)ELM博弈模型生成少數(shù)類樣本,平衡不同類別樣本分布;與傳統(tǒng)的重采樣方法不同,所提方法融合了零和博弈策略和主成分分析閾值判決,保證了每個(gè)樣本片段的真實(shí)性;在模型更新階段,利用信息熵量化整體的擬合程度,建立了權(quán)重與損失程度之間的關(guān)系,并采用博弈論中的集合模型計(jì)算組合權(quán)重,形成了穩(wěn)定的網(wǎng)絡(luò)體系結(jié)構(gòu),避免將多分類問題轉(zhuǎn)化為多個(gè)二分類造成的模型適應(yīng)性差的問題,提高了模型對快速變化數(shù)據(jù)的擬合效果。實(shí)驗(yàn)結(jié)果表明,在6組多類不平衡UCI標(biāo)準(zhǔn)數(shù)據(jù)集中,所提方法具有更高的G-mean和F-measure值,改善了動態(tài)ELM方法對少數(shù)類樣本的預(yù)測能力。(3)針對特征維度增加的非平穩(wěn)序列在線概率預(yù)測問題,提出了基于分位數(shù)估計(jì)的動態(tài)ELM方法,解決了非平穩(wěn)序列特征維度增加,置信區(qū)間表征單一的問題。對于期望值的點(diǎn)預(yù)測,該方法考慮了不斷增長的特征空間,定義特征向量和標(biāo)簽的相似度作為特征閾值,實(shí)現(xiàn)了對新特征的在線提取;建立集成學(xué)習(xí)模型,通過人工蜂群算法進(jìn)行聯(lián)合優(yōu)化,得到最優(yōu)的參數(shù)解向量,減少了輸入層權(quán)重和偏置的隨機(jī)性;根據(jù)片段平均誤差調(diào)整模型過濾閾值,提高了模型的緊湊性。對于置信區(qū)間預(yù)測,該方法采用模糊推理和二維核密度估計(jì)判決預(yù)測值的置信區(qū)間,突破了誤差必須滿足特定概率分布的局限,得到平滑的概率密度表達(dá)。選取表征光伏電能轉(zhuǎn)化情況的典型非平穩(wěn)數(shù)據(jù)進(jìn)行實(shí)驗(yàn),結(jié)果表明,所提方法獲得了較高的泛化性能和置信度,匹配了非平穩(wěn)序列的周期性和波動性。(4)針對非結(jié)構(gòu)化的圖像序列在線預(yù)測問題,提出了基于目標(biāo)主軌跡的多層ELM方法,解決了小樣本圖像序列特征難表征以及模型和語義無法關(guān)聯(lián)的問題。該方法充分考慮了圖像的時(shí)空特性,采用幀差法和k-means聚類分析,實(shí)現(xiàn)了不同運(yùn)動目標(biāo)的像素級提取;利用二階指數(shù)平滑方法,計(jì)算每一個(gè)運(yùn)動目標(biāo)的主軌跡,實(shí)現(xiàn)對多個(gè)目標(biāo)運(yùn)動趨勢的預(yù)測;通過多層ELM量化形狀特征,建立歷史序列和當(dāng)前圖像感興趣區(qū)域的映射關(guān)系,重構(gòu)了新的感興趣區(qū)域,保證了新圖像的真實(shí)性;利用FISTA方法加快了參數(shù)優(yōu)化的收斂速度,簡化了深度神經(jīng)網(wǎng)絡(luò)的求解過程。選取表征行人和車輛運(yùn)動狀態(tài)的圖像序列進(jìn)行實(shí)驗(yàn),結(jié)果表明,所提方法提高了在線預(yù)測的準(zhǔn)確性和圖像分辨能力,有效挖掘了圖像序列整體的語義特征,無需對每一個(gè)像素點(diǎn)建立模型,提升了預(yù)測效率。
【學(xué)位單位】：吉林大學(xué)
【學(xué)位級別】：博士
【學(xué)位年份】：2019
【中圖分類】：TP18;TP391.41
【部分圖文】：

(a) 離線預(yù)測過程 (b) 在線預(yù)測過程圖 1.1 離線預(yù)測和在線預(yù)測過程比較示意圖由圖 1.1 可知，在線預(yù)測過程中需要比較每一個(gè)片段中測試樣本標(biāo)簽和預(yù)測輸出的差異，不斷增長的測試樣本增加了模型求解的復(fù)雜程度。由于樣本的總體

圖 1.2 極限學(xué)習(xí)機(jī)網(wǎng)絡(luò)結(jié)構(gòu)N 個(gè)樣本數(shù)據(jù) ( ) 1,Ni iix y，ix 代表第 i 個(gè)樣本的特征向簽，在整個(gè)樣本數(shù)據(jù)中，ELM 模型的基本輸入輸出關(guān)

論文總體框架
【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 郭喜燕,楊勇平,徐二樹;電站機(jī)組動態(tài)過程在線預(yù)測的一種實(shí)現(xiàn)方法[J];工程熱物理學(xué)報(bào);2004年03期

2 付忠廣;黎瑜春;欒東存;;基于組合模型的轉(zhuǎn)子振動在線預(yù)測[J];汽輪機(jī)技術(shù);2012年04期

3 周元輝;杜京義;;基于模型的電液控制系統(tǒng)故障在線預(yù)測[J];機(jī)床與液壓;2007年09期

4 劉敏;張英堂;范紅波;李志寧;;基于增量稀疏核極限學(xué)習(xí)機(jī)的發(fā)動機(jī)狀態(tài)在線預(yù)測[J];北京理工大學(xué)學(xué)報(bào);2019年01期

5 劉新東;江全元;黃志光;曹一家;;計(jì)及不確定性的暫態(tài)穩(wěn)定在線預(yù)測[J];中國電機(jī)工程學(xué)報(bào);2009年28期

6 劉雙印;徐龍琴;李道亮;曾立華;;基于時(shí)間相似數(shù)據(jù)的支持向量機(jī)水質(zhì)溶解氧在線預(yù)測[J];農(nóng)業(yè)工程學(xué)報(bào);2014年03期

7 譚承誠;于廣平;邱志成;;基于集成相關(guān)向量機(jī)的水質(zhì)在線預(yù)測模型[J];計(jì)算機(jī)測量與控制;2018年03期

8 代剛;蘇偉;邵貝貝;;基于在線預(yù)測的飛行器再入段地磁定高方法[J];探測與控制學(xué)報(bào);2009年06期

9 馮磊;王宏力;司小勝;楊曉君;王標(biāo)標(biāo);;基于半隨機(jī)濾波-期望最大化算法的剩余壽命在線預(yù)測[J];航空學(xué)報(bào);2015年02期

10 張兵;錢鋒;顏學(xué)峰;羅娜;;基于動態(tài)神經(jīng)網(wǎng)絡(luò)的非線性過程在線預(yù)測[J];化工自動化及儀表;2006年06期

相關(guān)博士學(xué)位論文 前1條

1 于海洋;在線預(yù)測的極限學(xué)習(xí)機(jī)方法研究[D];吉林大學(xué);2019年

相關(guān)碩士學(xué)位論文 前8條

1 王賀;旋轉(zhuǎn)系統(tǒng)斷軸故障在線預(yù)測及診斷方法的研究[D];杭州電子科技大學(xué);2017年

2 申迎松;邢臺礦選煤廠重選工藝參數(shù)的在線預(yù)測研究[D];中國礦業(yè)大學(xué);2014年

3 李念水;時(shí)間序列數(shù)據(jù)流在線預(yù)測研究與應(yīng)用[D];大連理工大學(xué);2010年

4 義日貴;基于KRLS的在線時(shí)間序列預(yù)測方法及其應(yīng)用研究[D];哈爾濱工業(yè)大學(xué);2014年

5 蔡宗亮;基于等效過程小波神經(jīng)網(wǎng)絡(luò)的太陽逐日輻射能量實(shí)時(shí)在線預(yù)測模型[D];合肥工業(yè)大學(xué);2013年

6 謝巖;基于支持張量機(jī)與動態(tài)混合算法的公交車到站時(shí)間在線預(yù)測研究[D];江西理工大學(xué);2016年

7 李敏;數(shù)據(jù)電纜結(jié)構(gòu)回波損耗在線預(yù)測技術(shù)及儀器的研究[D];哈爾濱理工大學(xué);2004年

8 鄭旭光;集成電路老化在線預(yù)測與檢測技術(shù)的研究[D];合肥工業(yè)大學(xué);2017年

本文編號：2854935