發(fā)布時間：2020-05-26 12:46

【摘要】：隨著互聯(lián)網(wǎng)的高速發(fā)展,各種互聯(lián)網(wǎng)信息如語音信息,圖片信息,文本信息等也在爆發(fā)式的增長,我們每天都能接觸到大量的多樣的信息,比如來自新聞報導,博客,微博等各個渠道的文本信息。那么如何讓對這些海量的信息進行快速、高效地分析和處理,讓機器準確理解這些信息,經(jīng)研究發(fā)現(xiàn),基于高語義保持度的文本簡化就是一個可行的方法。在短文本語義簡化的研究中采用了以下幾種方式和方法,一種是基于傳統(tǒng)的循環(huán)神經(jīng)網(wǎng)絡方法;一種是基于長短時記憶模型的方法;還有一種是基于時間遞歸序列模型的方法。主要研究工作如下:1.研究了傳統(tǒng)循環(huán)神經(jīng)網(wǎng)絡工作原理,及其訓練模型和效率,文本簡化在循環(huán)神經(jīng)網(wǎng)絡中的應用,參考了相關(guān)文獻以及對比了相關(guān)研究中的優(yōu)劣勢。2.分別建立傳統(tǒng)循環(huán)神經(jīng)網(wǎng)絡模型、LSTM(Long Short-Term Memory)模型、seq2seq(Sequence to Sequence)模型以及TRSM(Time Recursive Sequence Model)模型,分析各個模型的實驗原理、訓練方法以及優(yōu)缺點。對比各個模型并適當結(jié)合幾個模型再建立針對短文本語義簡化任務最高效的模型。3.針對傳統(tǒng)循環(huán)神經(jīng)網(wǎng)絡訓練算法無法處理梯度消失和梯度爆炸等問題,結(jié)合基于循環(huán)神經(jīng)網(wǎng)絡建立的LSTM模型和seq2seq模型,提出時間遞歸序列模型TRSM,處理序列中間隔和延遲相對較長的輸入,再使用BPTT(Back Propagation Trough Time)反向傳播算法對中文微博語料庫進行訓練。4.建立三組不同的實驗作為對比,以原始參數(shù)值、改變訓練循環(huán)次數(shù)和改變學習速率為差異項作對比,再對實驗結(jié)果進行分析。實驗結(jié)果表明TRSM模型處理后的微博文本更加簡潔精煉,更適合文本語義的提取,大大減少了計算量,文字縮減率達到60%以上,語義保持率達到1.8,簡化了用戶要處理的大量信息,處理后結(jié)果能夠更好地用于幾個關(guān)鍵的中文語義處理任務。
【學位授予單位】：廣西民族大學
【學位級別】：碩士
【學位授予年份】：2019
【分類號】：TP183;TP391.1

【參考文獻】

相關(guān)期刊論文 前10條

1 王宏濤;孫劍偉;;基于BP神經(jīng)網(wǎng)絡和SVM的分類方法研究[J];軟件;2015年11期

2 景秀麗;;Hedge Trimmer句子壓縮技術(shù)的算法實現(xiàn)及改進[J];沈陽師范大學學報(自然科學版);2012年04期

3 曾承;陳桂生;杜鋼;林晨;;按需智能問答系統(tǒng)Uniponse[J];計算機科學;2011年01期

4 蘇金樹;張博鋒;徐昕;;基于機器學習的文本分類技術(shù)研究進展[J];軟件學報;2006年09期

5 曹勇剛;曹羽中;金茂忠;劉超;;面向信息檢索的自適應中文分詞系統(tǒng)[J];軟件學報;2006年03期

6 薛為民;陸玉昌;;文本挖掘技術(shù)研究[J];北京聯(lián)合大學學報(自然科學版);2005年04期

7 鄭家恒,盧嬌麗;關(guān)鍵詞抽取方法的研究[J];計算機工程;2005年18期

8 戴新宇;尹存燕;陳家駿;鄭國梁;;機器翻譯研究現(xiàn)狀與展望[J];計算機科學;2004年11期

9 朱大奇;人工神經(jīng)網(wǎng)絡研究現(xiàn)狀及其展望[J];江南大學學報;2004年01期

10 趙晉泉,侯志儉,吳際舜;改進最優(yōu)潮流牛頓算法有效性的對策研究[J];中國電機工程學報;1999年12期

相關(guān)碩士學位論文 前1條

1 龐超;神經(jīng)網(wǎng)絡在新聞標題生成中的研究[D];北京交通大學;2018年

，

本文編號：2681857