人工神經(jīng)網(wǎng)絡(luò)作為模擬生物神經(jīng)網(wǎng)絡(luò)的信息處理系統(tǒng),近年來在人工智能方面受到廣泛的青睞。以最速下降法（梯度下降法）為基本思想進(jìn)行學(xué)習(xí)的BP神經(jīng)網(wǎng)絡(luò)因?yàn)榫哂泻軓?qiáng)的非線性映射能力,常被用來處理逼近問題。加入動(dòng)量的梯度學(xué)習(xí)算法可以提高BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)速度。本文主要研究的是,當(dāng)訓(xùn)練樣本在每一輪迭代周期隨機(jī)排列時(shí),帶動(dòng)量的雙層BP神經(jīng)網(wǎng)絡(luò)在線梯度學(xué)習(xí)算法的收斂性。選取適當(dāng)?shù)膶W(xué)習(xí)步長,動(dòng)量系數(shù)以自適應(yīng)方式選擇,并且對(duì)激活函數(shù)給出一定的限制條件,我們證明了該算法的弱收斂和強(qiáng)收斂定理。進(jìn)一步地,當(dāng)對(duì)訓(xùn)練樣本進(jìn)行固定分組,以組為單位更新權(quán)值,并在每一輪迭代周期將樣本分組重新排列,也給出了相應(yīng)的弱收斂和強(qiáng)收斂結(jié)果。 

【文章來源】：華東理工大學(xué)上海市 211工程院校 教育部直屬院校

【文章頁數(shù)】：45 頁

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
Abstract
第1章 緒論
    1.1 研究背景
    1.2 問題描述及文章構(gòu)架
第2章 BP神經(jīng)網(wǎng)絡(luò)
    2.1 人工神經(jīng)網(wǎng)絡(luò)簡介
        2.1.1 人工神經(jīng)網(wǎng)絡(luò)的定義
        2.1.2 生物神經(jīng)網(wǎng)絡(luò)
        2.1.3 人工神經(jīng)網(wǎng)絡(luò)模型
    2.2 BP神經(jīng)網(wǎng)路
        2.2.1 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)
        2.2.2 BP神經(jīng)網(wǎng)絡(luò)
第3章 帶動(dòng)量項(xiàng)的在線梯度學(xué)習(xí)算法的收斂性
    3.1 帶動(dòng)量項(xiàng)的在線梯度算法
    3.2 引理
    3.3 定理及證明
第4章 分組訓(xùn)練的帶動(dòng)量項(xiàng)的梯度學(xué)習(xí)算法的收斂性
    4.1 帶動(dòng)量的梯度法
    4.2 引理及定理
第5章 結(jié)論
參考文獻(xiàn)
致謝



本文編號(hào)：3110840