本文關鍵詞：基于隨機映射神經(jīng)網(wǎng)絡的多元時間序列預測方法研究，由筆耕文化傳播整理發(fā)布。

【摘要】：多元時間序列廣泛存在于自然、工業(yè)、經(jīng)濟、能源和社會等領域的實際復雜系統(tǒng)之中。研究如何有效地從這些時間序列中挖掘出潛在的有用知識、構建預測模型,不僅有利于理解與認識實際復雜系統(tǒng),而且能夠為相應的控制、決策和調(diào)控提供理論支持。本文以基于隨機映射神經(jīng)網(wǎng)絡的多元時間序列預測為題進行研究,以兩種隨機映射神經(jīng)網(wǎng)絡：極端學習機與回聲狀態(tài)網(wǎng)絡為預測模型,探索適用于多元序列預測的隨機映射神經(jīng)網(wǎng)絡的離線與在線建模方法,主要取得以下三方面研究成果：1、提出基于模型選擇與改進訓練算法的極端學習機預測方法。針對極端學習機的隱含層節(jié)點個數(shù)確定問題,設計基于模型選擇算法的極端學習機,實現(xiàn)最優(yōu)隱含層節(jié)點個數(shù)的選擇。針對極端學習機偽逆訓練算法易出現(xiàn)病態(tài)解問題,引入信賴域Newton訓練算法,較偽逆算法取得更優(yōu)的訓練結果,且尤其適合于大規(guī)模樣本問題�？紤]到不同樣本對預測具有差異性影響的問題,根據(jù)預測誤差對樣本施加不同的權重,建立基于樣本加權算法的核極端學習機。針對核極端學習機的核函數(shù)選擇及核參數(shù)優(yōu)化問題,開發(fā)多核極端學習機,組合多個不同類型或者不同參數(shù)的核函數(shù),增加預測模型表達能力。2、提出基于改進訓練算法與層級結構的回聲狀態(tài)網(wǎng)絡預測方法。將含噪時間序列的預測誤差分解為預測模型偏差和輸入擾動誤差,指出高精度建模的關鍵是對兩者進行有效平衡,并在噪聲有界假設下,建立魯棒回聲狀態(tài)網(wǎng)絡。針對支持向量回聲狀態(tài)機正則化系數(shù)難以確定和單一正則化系數(shù)制約其預測精度的問題,在優(yōu)化問題中對正則化系數(shù)進行加權,并采用解軌跡算法求解,得到加權支持向量回聲狀態(tài)機。針對復雜多元時間序列預測問題,設計層級結構回聲狀態(tài)網(wǎng)絡,第一層采用多個帶有跳躍的環(huán)形儲備池進行動態(tài)特征提取,第二層對提取出的動態(tài)特征進行特征選擇后采用極端學習機建模。3、提出基于改進在線訓練算法的隨機映射神經(jīng)網(wǎng)絡在線預測方法。針對多元時間序列的在線建模問題,引入基于在線LM訓練算法的極端學習機,結合極端學習機的隨機隱含層生成機制,推導出Hessian矩陣和梯度向量的迭代計算公式。針對非平穩(wěn)時間序列的預測問題,設計基于在線序列訓練算法的核極端學習機,依據(jù)核極端學習機的拉格朗日函數(shù),推導出增量學習算法和減量學習算法,并設計固定時間窗預測策略。針對回聲狀態(tài)網(wǎng)絡缺乏有效在線訓練算法且存在不適定性的問題,建立基于在線稀疏訓練算法的回聲狀態(tài)網(wǎng)絡,通過在目標函數(shù)中增加L1正則項以改善不適定性,采用截斷梯度算法進行在線近似求解,并理論證明方法的有效性。
【關鍵詞】：多元時間序列 預測 隨機映射神經(jīng)網(wǎng)絡 極端學習機 回聲狀態(tài)網(wǎng)絡
【學位授予單位】：大連理工大學
【學位級別】：博士
【學位授予年份】：2015
【分類號】：TP183
【目錄】：

• 摘要4-5
• ABSTRACT5-18
• 1 緒論18-37
• 1.1 研究背景與意義18-19
• 1.2 國內(nèi)外相關工作研究進展19-35
• 1.2.1 多元時間序列預測研究現(xiàn)狀19-20
• 1.2.2 極端學習機研究現(xiàn)狀20-26
• 1.2.3 回聲狀態(tài)網(wǎng)絡研究現(xiàn)狀26-33
• 1.2.4 現(xiàn)有研究工作的不足33-35
• 1.3 本文主要研究思路35-37
• 2 基于模型選擇和改進訓練算法的極端學習機預測方法37-63
• 2.1 引言37-38
• 2.2 基于模型選擇算法的極端學習機38-44
• 2.2.1 模型選擇算法38-39
• 2.2.2 基于模型選擇算法的極端學習機39-41
• 2.2.3 仿真實例41-44
• 2.3 基于信賴域Newton訓練算法的極端學習機44-49
• 2.3.1 信賴域Newton算法44-45
• 2.3.2 基于信賴域Newton訓練算法的極端學習機45-46
• 2.3.3 仿真實例46-49
• 2.4 基于樣本加權算法的核極端學習機49-55
• 2.4.1 核極端學習機49-50
• 2.4.2 基于樣本加權算法的核極端學習機50-52
• 2.4.3 仿真實例52-55
• 2.5 多核極端學習機55-62
• 2.5.1 多核極端學習機55-56
• 2.5.2 多核極端學習機的求解56-58
• 2.5.3 仿真實例58-62
• 2.6 本章小結62-63
• 3 基于改進訓練算法和層級結構的回聲狀態(tài)網(wǎng)絡預測方法63-89
• 3.1 引言63-64
• 3.2 魯棒回聲狀態(tài)網(wǎng)絡64-72
• 3.2.1 含噪時間序列預測誤差分析65-69
• 3.2.2 魯棒回聲狀態(tài)網(wǎng)絡69-71
• 3.2.3 仿真實例71-72
• 3.3 加權支持向量回聲狀態(tài)機72-79
• 3.3.1 加權支持向量回聲狀態(tài)機72-75
• 3.3.2 加權系數(shù)的求解75-76
• 3.3.3 仿真實例76-79
• 3.4 層級結構回聲狀態(tài)網(wǎng)絡79-87
• 3.4.1 帶有跳躍的環(huán)形儲備池79-81
• 3.4.2 層級結構回聲狀態(tài)網(wǎng)絡81-83
• 3.4.3 仿真實例83-87
• 3.5 本章小結87-89
• 4 基于改進在線訓練算法的隨機映射神經(jīng)網(wǎng)絡預測方法89-118
• 4.1 引言89-91
• 4.2 基于在線LM訓練算法的極端學習機91-102
• 4.2.1 在線LM訓練算法91-94
• 4.2.2 基于在線LM訓練算法的極端學習機94-95
• 4.2.3 仿真實例95-102
• 4.3 基于在線序列訓練算法的核極端學習機102-112
• 4.3.1 在線序列訓練算法102-107
• 4.3.2 基于在線序列訓練算法的核極端學習機107-108
• 4.3.3 仿真實例108-112
• 4.4 基于在線稀疏訓練算法的回聲狀態(tài)網(wǎng)絡112-117
• 4.4.1 基于在線稀疏訓練算法的回聲狀態(tài)網(wǎng)絡112-114
• 4.4.2 基于在線稀疏訓練算法的回聲狀態(tài)網(wǎng)絡的理論分析114-115
• 4.4.3 仿真實例115-117
• 4.5 本章小結117-118
• 5 結論與展望118-124
• 5.1 結論118-122
• 5.2 創(chuàng)新點122-123
• 5.3 展望123-124
• 參考文獻124-133
• 攻讀博士學位期間科研項目及科研成果133-135
• 致謝135-137
• 作者簡介137

  本文關鍵詞：基于隨機映射神經(jīng)網(wǎng)絡的多元時間序列預測方法研究，，由筆耕文化傳播整理發(fā)布。

本文編號：420748