近年來,神經(jīng)網(wǎng)絡(luò)(深度學(xué)習(xí))研究發(fā)展迅猛,自然語言處理作為一個實用領(lǐng)域,是神經(jīng)網(wǎng)絡(luò)的主要攻堅對象之一。雖然神經(jīng)網(wǎng)絡(luò)在自然語言處理領(lǐng)域已經(jīng)取得了非常喜人的成績,但是需求與發(fā)展是無止盡的,在最基礎(chǔ)的文本分類與情感分類任務(wù)中,仍有大量問題亟需解決。大多數(shù)分類模型對特征十分敏感,特征的優(yōu)劣直接決定了分類器的分類效果。分布式特征表示是一種特征表示方法,也是神經(jīng)網(wǎng)絡(luò)的研究核心之一。在自然語言處理任務(wù)中,由于單詞等自然語言特征具有離散性質(zhì),使用分布式表示對特征建模十分重要。本文以某公司的具體輿情分析需求為背景,以自然語言情感分類任務(wù)為目標(biāo),針對情感分類任務(wù)中的特征表示方法進(jìn)行了一系列研究。本文的主要研究內(nèi)容與貢獻(xiàn)如下:1.針對情感分類任務(wù),提出了一種單詞表示(詞向量)調(diào)整方法。現(xiàn)有的大多數(shù)詞向量沒有針對特定任務(wù)進(jìn)行進(jìn)一步調(diào)整。本文提出了詞向量情感分量的概念,并嘗試用情感分量解釋詞向量中攜帶的情感信息,最后利用情感詞典和情感分量調(diào)整詞向量。本文使用RT、IMDB兩個情感分類任務(wù)測試詞向量調(diào)整效果,相比遷移初始詞向量,遷移調(diào)整后的詞向量在多個模型上均有不同程度的效果提升。2.針對短文本,提出了一種多層級...

【文章頁數(shù)】：96 頁

【學(xué)位級別】：碩士

【文章目錄】：
摘要
abstract
符號表示
常見函數(shù)
第一章 緒論
    1.1 研究背景與意義
    1.2 本文工作與貢獻(xiàn)
    1.3 本文架構(gòu)
第二章 單詞特征表示研究綜述
    2.1 第一階段
        2.1.1 共現(xiàn)信息建模
        2.1.2 神經(jīng)網(wǎng)絡(luò)語言模型建模
        2.1.3 配分函數(shù)優(yōu)化
    2.2 第二階段
        2.2.1 獨立訓(xùn)練詞向量模型
        2.2.2 詞向量理論研究
        2.2.3 詞向量類推性質(zhì)
    2.3 第三階段
    2.4 本章總結(jié)
第三章 針對情感分類的詞向量調(diào)整研究
    3.1 相關(guān)工作
    3.2 詞向量情感信息調(diào)整
        3.2.1 情感主成分與情感分量
        3.2.2 情感信息調(diào)整
    3.3 實驗與效果分析
        3.3.1 詞向量情感信息分析實驗
        3.3.2 詞向量混合比例實驗
        3.3.3 情感分類器詞向量遷移實驗
    3.4 本章總結(jié)
第四章 多層級情感分類方案
    4.1 需求分析與數(shù)據(jù)準(zhǔn)備
        4.1.1 問題定義
        4.1.2 數(shù)據(jù)集準(zhǔn)備
        4.1.3 數(shù)據(jù)預(yù)處理
    4.2 短文本分類器
        4.2.1 LSTM-Attn模型
        4.2.2 DAN模型
        4.2.3 基模型集成
    4.3 新聞文本分類器
    4.4 實驗與效果分析
        4.4.1 模型超參數(shù)
        4.4.2 基模型縱向性能比較實驗
        4.4.3 基模型集成實驗
        4.4.4 新聞文本分類器性能實驗
        4.4.5 短文本案例分析
    4.5 本章總結(jié)
第五章 總結(jié)與展望
    5.1 工作總結(jié)
    5.2 未來展望
致謝
攻讀碩士學(xué)位期間發(fā)表論文、參與科研和獲得榮譽(yù)情況



本文編號：3840962