【摘要】：自動(dòng)語(yǔ)音識(shí)別的主要目的是讓機(jī)器可以“聽(tīng)懂”人們說(shuō)話的內(nèi)容,并將語(yǔ)音信號(hào)轉(zhuǎn)化為文本信息,能實(shí)現(xiàn)人類與機(jī)器之間快速、無(wú)障礙的交流。近年來(lái),隨著深度學(xué)習(xí)技術(shù)的廣泛應(yīng)用,DNN-HMM語(yǔ)音識(shí)別架構(gòu)逐漸取代了傳統(tǒng)的GMM-HMM語(yǔ)音識(shí)別架構(gòu),成為當(dāng)前大詞匯量連續(xù)語(yǔ)音識(shí)別系統(tǒng)的主流架構(gòu)。本文以深度學(xué)習(xí)為基礎(chǔ),從特征提取和聲學(xué)模型兩個(gè)方面展開(kāi)深入研究,具有較高的理論意義和研究?jī)r(jià)值。首先,闡述了語(yǔ)音識(shí)別技術(shù)的國(guó)內(nèi)外研究現(xiàn)狀,介紹了深度學(xué)習(xí)理論基礎(chǔ)和語(yǔ)音識(shí)別關(guān)鍵技術(shù),對(duì)基于深度學(xué)習(xí)的大詞匯量連續(xù)語(yǔ)音識(shí)別系統(tǒng)的整體方案進(jìn)行了設(shè)計(jì)。著重分析原始聲學(xué)特征提取和DNN-HMM聲學(xué)模型存在的不足之處,明確本論文研究的關(guān)鍵技術(shù)是語(yǔ)音特征提取和聲學(xué)模型優(yōu)化。其次,針對(duì)MFCC、Fbank、瓶頸特征等常用語(yǔ)音特征對(duì)語(yǔ)音前后幀相關(guān)性信息提取不足導(dǎo)致識(shí)別率不高的問(wèn)題,提出一種基于重疊組套索稀疏深度神經(jīng)網(wǎng)絡(luò)的語(yǔ)音瓶頸特征提取改進(jìn)方法。該方法利用重疊組套索算法對(duì)DNN進(jìn)行改進(jìn),并從MFCC聲學(xué)特征中提取到具有語(yǔ)音相關(guān)性信息的語(yǔ)音瓶頸特征。實(shí)驗(yàn)結(jié)果表明,利用DNN得到的語(yǔ)音瓶頸特征與原始的MFCC相比,語(yǔ)音識(shí)別率得到顯著提高。然后,為解決DBLSTM中常出現(xiàn)的梯度消失和模型過(guò)擬合問(wèn)題,提出利用Maxout神經(jīng)元和Dropout正則化算法改進(jìn)DBLSTM-HMM聲學(xué)模型。為適應(yīng)DBLSTM對(duì)語(yǔ)音信息每個(gè)時(shí)間步長(zhǎng)的雙向依賴性,進(jìn)一步提出利用CSC-BPTT訓(xùn)練算法訓(xùn)練DBLSTM神經(jīng)網(wǎng)絡(luò)。實(shí)驗(yàn)結(jié)果表明本文改進(jìn)的DBLSTM-HMM聲學(xué)模型優(yōu)于DNN-HMM、RNN-HMM等典型的聲學(xué)模型,語(yǔ)音識(shí)別性能得到較大的提高。最后,利用本文改進(jìn)的語(yǔ)音特征提取方法和聲學(xué)模型構(gòu)建基于DBLSTM-HMM的大詞匯量連續(xù)語(yǔ)音識(shí)別系統(tǒng),并在THCHS-30中文語(yǔ)料庫(kù)和自制語(yǔ)料庫(kù)中進(jìn)行實(shí)驗(yàn)驗(yàn)證和分析。實(shí)驗(yàn)結(jié)果表明,本文建立的語(yǔ)音識(shí)別系統(tǒng)與傳統(tǒng)的基于DNN-HMM的語(yǔ)音識(shí)別系統(tǒng)相比,WER低7.44%,系統(tǒng)泛化能力更強(qiáng),語(yǔ)音識(shí)別率更高。
【學(xué)位授予單位】：重慶郵電大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位授予年份】：2018
【分類號(hào)】：TN912.34;TP18
【圖文】：

種基于深度神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方法，是通過(guò)非線性處理的一種算法體系。深度神經(jīng)網(wǎng)多隱含層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，包括：DBN、CN連接的前饋神經(jīng)網(wǎng)絡(luò)。下面將詳細(xì)介紹DN構(gòu)建瓶頸深度神經(jīng)網(wǎng)絡(luò)提供理論依據(jù)，另，為第 4 章聲學(xué)模型研究和實(shí)驗(yàn)對(duì)比驗(yàn)證網(wǎng)絡(luò)架構(gòu)人工神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上通過(guò)增加隱含層，次網(wǎng)絡(luò)結(jié)構(gòu)。DNN 模型結(jié)構(gòu)圖如圖 2.1 所

電大學(xué)碩士學(xué)位論文 第 2 章 基于深度學(xué)習(xí)的語(yǔ)音識(shí)別理論基礎(chǔ)及系統(tǒng)在深度神經(jīng)網(wǎng)絡(luò)采用無(wú)監(jiān)督特征學(xué)習(xí)的方法預(yù)訓(xùn)練得到初始值，這樣可后期參數(shù)調(diào)整的時(shí)間，而且讓大多數(shù)參數(shù)達(dá)到最優(yōu)值附近，利于參數(shù)調(diào)文采用 DBN 進(jìn)行 DNN 網(wǎng)絡(luò)參數(shù)預(yù)訓(xùn)練。DBN 是一種概率生成模型，限玻爾茲曼機(jī)(Restricted Boltzmann Machines, RBM)網(wǎng)絡(luò)逐層訓(xùn)練得到[32BN 模型參數(shù)作為 DNN 訓(xùn)練模型的初始參數(shù)，其過(guò)程如圖 2.2 所示。

【參考文獻(xiàn)】

相關(guān)期刊論文 前1條

1 劉建偉;崔立鵬;羅雄麟;;組稀疏模型及其算法綜述[J];電子學(xué)報(bào);2015年04期

相關(guān)博士學(xué)位論文 前4條

1 張仕良;基于深度神經(jīng)網(wǎng)絡(luò)的語(yǔ)音識(shí)別模型研究[D];中國(guó)科學(xué)技術(shù)大學(xué);2017年

2 薛少飛;DNN-HMM語(yǔ)音識(shí)別聲學(xué)模型的說(shuō)話人自適應(yīng)[D];中國(guó)科學(xué)技術(shù)大學(xué);2015年

3 周盼;基于深層神經(jīng)網(wǎng)絡(luò)的語(yǔ)音識(shí)別聲學(xué)建模研究[D];中國(guó)科學(xué)技術(shù)大學(xué);2014年

4 羅恒;基于協(xié)同過(guò)濾視角的受限玻爾茲曼機(jī)研究[D];上海交通大學(xué);2011年

相關(guān)碩士學(xué)位論文 前3條

1 孫穎華;高階離散隱馬爾科夫模型的嚴(yán)格定義及等價(jià)性質(zhì)[D];江蘇大學(xué);2016年

2 時(shí)雪煜;基于回歸神經(jīng)網(wǎng)絡(luò)的語(yǔ)音識(shí)別抗噪研究[D];中國(guó)科學(xué)技術(shù)大學(xué);2016年

3 張德良;深度神經(jīng)網(wǎng)絡(luò)在中文語(yǔ)音識(shí)別系統(tǒng)中的實(shí)現(xiàn)[D];北京交通大學(xué);2015年

本文編號(hào)：2732444