隨著信息技術(shù)的發(fā)展,互聯(lián)網(wǎng)數(shù)據(jù)及資源呈現(xiàn)海量特征,文本信息也正爆炸式的增長(zhǎng)。如何快速準(zhǔn)確的從海量的數(shù)據(jù)中篩選出所需的資料和信息,文本分類(lèi)在內(nèi)容信息過(guò)濾篩選和自然語(yǔ)言處理等領(lǐng)域都發(fā)揮著非常重要的作用。本文基于CNN文本分類(lèi)模型做了大量的研究與改進(jìn)探索,提出了兩種切實(shí)可行的改進(jìn)算法,并進(jìn)行了大量的實(shí)驗(yàn)分析。首先,針對(duì)互聯(lián)網(wǎng)短文本具有長(zhǎng)度短、特征稀疏以及上下文依賴(lài)性強(qiáng)等特點(diǎn),提出了一種基于字符級(jí)嵌入的卷積神經(jīng)網(wǎng)絡(luò)和長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)相結(jié)合的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行短文本的分類(lèi)。該模型集成了高速公路網(wǎng)絡(luò)框架,用于緩解深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練時(shí)的困難,提高分類(lèi)的準(zhǔn)確性。通過(guò)對(duì)幾種數(shù)據(jù)集的測(cè)試,結(jié)果表明提出的模型在短文本分類(lèi)任務(wù)中優(yōu)于傳統(tǒng)模型和其他基于CNN的分類(lèi)模型。其次,針對(duì)經(jīng)典CNN句子分類(lèi)模型在處理較長(zhǎng)文本任務(wù)中的缺陷,保存CNN模型并行化的優(yōu)勢(shì),借助LSTM的門(mén)控機(jī)制,改進(jìn)了多層神經(jīng)網(wǎng)絡(luò)中層與層之間的聯(lián)系,進(jìn)一步優(yōu)化文本的語(yǔ)義表示。提出一種基于門(mén)控卷積神經(jīng)網(wǎng)絡(luò)的文本分類(lèi)算法。實(shí)驗(yàn)表明,該算法在中英文數(shù)據(jù)集上都能有效提升其在文本分類(lèi)任務(wù)中的性能。最后,在上述字符級(jí)嵌入文本分類(lèi)算法研究的基礎(chǔ)上,本文進(jìn)一步研究了...

【文章頁(yè)數(shù)】：84 頁(yè)

【學(xué)位級(jí)別】：碩士

【部分圖文】：

圖3準(zhǔn)確率對(duì)比情況

第44卷第7期殷亞博，楊文忠，楊慧婷，等:基于卷積神經(jīng)網(wǎng)絡(luò)和KNN的短文本分類(lèi)算法研究圖3準(zhǔn)確率對(duì)比情況圖4召回率對(duì)比情況圖5F1值對(duì)比情況由表5可知，從分類(lèi)準(zhǔn)確率上來(lái)看，CNN算法除了在數(shù)據(jù)集DBMC-1上分類(lèi)效果比CKNN算法的分類(lèi)效果明顯好之外，在剩下的數(shù)據(jù)集中兩者的分類(lèi)效....

圖4召回率對(duì)比情況

第44卷第7期殷亞博，楊文忠，楊慧婷，等:基于卷積神經(jīng)網(wǎng)絡(luò)和KNN的短文本分類(lèi)算法研究圖3準(zhǔn)確率對(duì)比情況圖4召回率對(duì)比情況圖5F1值對(duì)比情況由表5可知，從分類(lèi)準(zhǔn)確率上來(lái)看，CNN算法除了在數(shù)據(jù)集DBMC-1上分類(lèi)效果比CKNN算法的分類(lèi)效果明顯好之外，在剩下的數(shù)據(jù)集中兩者的分類(lèi)效....

圖２．４支持向量機(jī)??Ｆｉ２．４?Ｓｕｏｒｔ?ｖｅｃｔｏｒ?ｍａｃｈｉｎｅｓ??

?基于多粒度特征表示及循環(huán)卷積神經(jīng)網(wǎng)絡(luò)的短文本分類(lèi)研究??圖２．３反向傳播算法圖??Ｆｉｇ?２．３?Ｂａｃｋ?ｐｒｏｐａｇａｔｉｏｎ?ａｌｇｏｒｉｔｈｍ?ｄｉａｇｒａｍ??２．３．６支持向量機(jī)??支持向量機(jī)最初是由Ｖａｐｎｉｋ等人提出的學(xué)習(xí)模型ＫＩＷＩ，?ＪｏａｃｈｉｍｓＮｌ于１....

圖2-3向量空間模型

圖2-3向量空間模型Figure2-3Vectorspacemode,VSM空間模型如圖2-3所示。設(shè)D為一個(gè)包含m個(gè)文的特征向量，則有D=，T=區(qū)間，(==)為文檔....

本文編號(hào)：3920681