人工智能出現(xiàn)的意義是讓機(jī)器自動(dòng)的處理某些任務(wù),希望處理結(jié)果能夠達(dá)到人類(lèi)水平或者超越人類(lèi)水平。人工智能技術(shù)目前已經(jīng)在教育,金融,醫(yī)療等多個(gè)領(lǐng)域?qū)崿F(xiàn)技術(shù)落地,而且應(yīng)用場(chǎng)景還在不斷擴(kuò)大。但是目前人工智能技術(shù)在很多方面仍存在些許不足。自然語(yǔ)言處理作為人工智能的一個(gè)子領(lǐng)域,目前仍然存在由于語(yǔ)言多樣性,語(yǔ)義復(fù)雜性,導(dǎo)致機(jī)器不能充分理解人類(lèi)語(yǔ)言這一重大難題,同時(shí)這也是業(yè)界眾多學(xué)者共同面臨的難題。本文針對(duì)自然語(yǔ)言處理方向中文文本分類(lèi)這一細(xì)分領(lǐng)域中出現(xiàn)的語(yǔ)義理解不足,模型實(shí)際可用性不夠好等問(wèn)題進(jìn)行了深入研究,研究成果如下:（1）針對(duì)現(xiàn)有常用模型處理實(shí)際特定領(lǐng)域文本情感分類(lèi)準(zhǔn)確度不高這一問(wèn)題,同時(shí)考慮實(shí)際文本復(fù)雜情況,本文提出了一種優(yōu)化算法。該方法基于經(jīng)典算法模型BERT,優(yōu)化了傳統(tǒng)文本情感分類(lèi)算法和主流文本情感分類(lèi)算法。該算法采用3段式的學(xué)習(xí)方法,通過(guò)使用垂直領(lǐng)域數(shù)據(jù)進(jìn)行增強(qiáng)學(xué)習(xí),極大的增強(qiáng)了模型的語(yǔ)義情感理解效果。對(duì)比傳統(tǒng)文本分類(lèi)模型和主流文本分類(lèi)模型,該算法的驗(yàn)證集準(zhǔn)確度有較大的提升。最后將模型應(yīng)用到實(shí)際生活中,完成了一個(gè)簡(jiǎn)單案例展示,最終取得了比較好的實(shí)際應(yīng)用效果。（2）針對(duì)主流文本分類(lèi)模型BER... 

【文章頁(yè)數(shù)】：58 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
abstract
第一章 緒論
    1.1 研究背景
    1.2 國(guó)內(nèi)外研究現(xiàn)狀
    1.3 論文主要內(nèi)容
    1.4 論文組織結(jié)構(gòu)
第二章 相關(guān)理論及技術(shù)介紹
    2.1 Word2Vec模型介紹
        2.1.1 模型概述
        2.1.2 CBOW
        2.1.3 Skip-gram
        2.1.4 優(yōu)化技巧
    2.2 LSTM模型介紹
    2.3 BERT模型介紹
    2.4 XLNet模型介紹
    2.5 遷移學(xué)習(xí)介紹
    2.6 本章小結(jié)
第三章 基于BERT模型的文本情感分類(lèi)方法優(yōu)化
    3.1 引言
    3.2 文本情感分類(lèi)的分析與研究
        3.2.1 研究任務(wù)
        3.2.2 任務(wù)分析
        3.2.3 相關(guān)調(diào)研
    3.3 算法框架
    3.4 基于BERT模型的情感極性分析優(yōu)化算法設(shè)計(jì)
        3.4.1 傳統(tǒng)文本情感分類(lèi)算法分析
        3.4.2 基于BERT模型的情感極性分析優(yōu)化算法
        3.4.3 基于BERT模型的情感極性分析優(yōu)化算法的具體實(shí)現(xiàn)
    3.5 實(shí)驗(yàn)詳述
        3.5.1 實(shí)驗(yàn)設(shè)計(jì)
        3.5.2 實(shí)驗(yàn)數(shù)據(jù)
        3.5.3 優(yōu)化算法實(shí)驗(yàn)流程
        3.5.4 基于Word2Vec和 LSTM模型的參數(shù)設(shè)置
        3.5.5 基于BERT和 LSTM模型的參數(shù)設(shè)置
        3.5.6 實(shí)驗(yàn)環(huán)境
        3.5.7 評(píng)價(jià)指標(biāo)
    3.6 實(shí)驗(yàn)結(jié)果分析
    3.7 案例展示
    3.8 本章小結(jié)
第四章 基于XLNet模型的文本分類(lèi)方法優(yōu)化
    4.1 引言
    4.2 算法設(shè)計(jì)
        4.2.1 XLNet模型
        4.2.2 基于XLNet模型的文本分類(lèi)優(yōu)化算法
    4.3 實(shí)驗(yàn)詳述
        4.3.1 實(shí)驗(yàn)設(shè)計(jì)
        4.3.2 實(shí)驗(yàn)原始數(shù)據(jù)
        4.3.3 實(shí)驗(yàn)流程
        4.3.4 實(shí)驗(yàn)優(yōu)化及問(wèn)題處理
        4.3.5 參數(shù)設(shè)置
        4.3.6 評(píng)價(jià)指標(biāo)
    4.4 實(shí)驗(yàn)結(jié)果與分析
    4.5 本章小結(jié)
第五章 總結(jié)與展望
    5.1 總結(jié)
    5.2 展望
參考文獻(xiàn)
發(fā)表論文和科研情況說(shuō)明
致謝


【參考文獻(xiàn)】：
期刊論文
[1]基于NER的石油非結(jié)構(gòu)化信息抽取研究[J]. 鐘原,劉小溶,王杰,陳雁,張?zhí)?  西南石油大學(xué)學(xué)報(bào)(自然科學(xué)版). 2020(06)
[2]基于BiLSTM-CRF的軍事命名實(shí)體識(shí)別方法[J]. 高學(xué)攀,杜楚,吳金亮.  無(wú)線電工程. 2020(12)
[3]基于分層最大邊緣相關(guān)的柬語(yǔ)多文檔抽取式摘要方法[J]. 曾昭霖,嚴(yán)馨,余兵兵,周楓,徐廣義.  河北科技大學(xué)學(xué)報(bào). 2020(06)
[4]基于CNN-BGRU-CRF的中文電子病歷實(shí)體抽取方法[J]. 馮云霞,衣鵬,韓正亮,宋波.  計(jì)算機(jī)與現(xiàn)代化. 2020(11)
[5]基于ELMO-CNN-BiLSTM-CRF模型的地質(zhì)實(shí)體識(shí)別[J]. 儲(chǔ)德平,萬(wàn)波,李紅,方芳,王潤(rùn).  地球科學(xué). 2021(08)
[6]基于上下文相關(guān)字向量的中文命名實(shí)體識(shí)別[J]. 張棟,陳文亮.  計(jì)算機(jī)科學(xué). 2021(03)
[7]無(wú)監(jiān)督的句法可控復(fù)述模型用于對(duì)抗樣本生成[J]. 楊二光,劉明童,張玉潔,孟遙,胡長(zhǎng)建,徐金安,陳鈺楓.  北京大學(xué)學(xué)報(bào)(自然科學(xué)版). 2021(01)
[8]一種基于改進(jìn)邏輯回歸算法實(shí)現(xiàn)模型在線調(diào)參方法[J]. 余韋,余鳳麗,吉晶,楊猛.  通信技術(shù). 2020(08)
[9]營(yíng)銷(xiāo)數(shù)據(jù)清洗及治理方法的研究及應(yīng)用[J]. 梁衛(wèi)寧,周鈺書(shū),唐文彬,劉森,陳玲娜.  信息技術(shù)與信息化. 2020(07)
[10]淺談人工智能時(shí)代背景下自然語(yǔ)言處理技術(shù)的發(fā)展應(yīng)用[J]. 趙園丁.  辦公自動(dòng)化. 2019(10)

博士論文
[1]基于深度模型的零樣本遷移學(xué)習(xí)[D]. 宋杰.浙江大學(xué) 2020

碩士論文
[1]基于深度學(xué)習(xí)的智能問(wèn)答系統(tǒng)研究[D]. 李敬鑫.電子科技大學(xué) 2020
[2]基于深度學(xué)習(xí)的文本分類(lèi)問(wèn)題研究[D]. 潘成龍.華中科技大學(xué) 2019
[3]基于GRU神經(jīng)網(wǎng)絡(luò)的時(shí)間序列預(yù)測(cè)研究[D]. 劉洋.成都理工大學(xué) 2017
[4]基于Attention-Based LSTM模型的文本分類(lèi)技術(shù)的研究[D]. 張沖.南京大學(xué) 2016



本文編號(hào)：3655428