情感分析是指挖掘文本中人們對某一實(shí)體的觀點(diǎn)、情感、情緒、態(tài)度等。跨領(lǐng)域情感分析是指利用源域的有標(biāo)簽數(shù)據(jù)作為訓(xùn)練集,協(xié)助訓(xùn)練目標(biāo)域的情感分析模型,并在目標(biāo)域的數(shù)據(jù)上測試。當(dāng)需要訓(xùn)練一個(gè)全新領(lǐng)域的情感分類器時(shí),標(biāo)注數(shù)據(jù)往往是成本最高的一部分,限制了著整個(gè)模型的開發(fā)流程。使用跨領(lǐng)域情感分析方法,能夠使用目前已有的其他領(lǐng)域標(biāo)注數(shù)據(jù),訓(xùn)練全新領(lǐng)域上的情感分類器,大大減小了標(biāo)注成本和開發(fā)時(shí)間。注意力機(jī)制能夠幫助模型獲得到更好的文本語義表示,且運(yùn)算簡便快捷。將注意力機(jī)制添加到跨領(lǐng)域情感分析任務(wù)中,能夠促使模型獲取到更加準(zhǔn)確的文本語義表示,從而更好的對齊源域特征和目標(biāo)域特征,達(dá)到更好的遷移效果。本文首先提出基于跨領(lǐng)域注意力機(jī)制的層次注意力遷移網(wǎng)絡(luò),解決了現(xiàn)有方法中對所有數(shù)據(jù)無區(qū)分對待,無法強(qiáng)化訓(xùn)練領(lǐng)域特有數(shù)據(jù)的缺點(diǎn)。跨領(lǐng)域注意力機(jī)制根據(jù)數(shù)據(jù)特點(diǎn),給予每條數(shù)據(jù)不同的損失權(quán)重,對于領(lǐng)域特有數(shù)據(jù),給予較大的權(quán)重,對于非領(lǐng)域特有數(shù)據(jù),給予較小的權(quán)重,從而對源域中的特有數(shù)據(jù)進(jìn)行強(qiáng)化訓(xùn)練,著重學(xué)習(xí)特有數(shù)據(jù)中的特征對情感分析的影響。實(shí)驗(yàn)表明,基于跨領(lǐng)域注意力機(jī)制的層次注意力遷移網(wǎng)絡(luò)在20個(gè)遷移任務(wù)中的17個(gè)任務(wù)上超...

【文章頁數(shù)】：71 頁

【學(xué)位級別】：碩士

【文章目錄】：
摘要
ABSTRACT
第1章 緒論
    1.1 課題背景及研究的目的和意義
    1.2 相關(guān)工作的研究概況
        1.2.1 語言表示方法研究概括
        1.2.2 注意力機(jī)制研究概括
        1.2.3 跨領(lǐng)域情感分析的研究概括
    1.3 本文的主要研究內(nèi)容
    1.4 論文的主要組織結(jié)構(gòu)
第2章 層次注意力遷移網(wǎng)絡(luò)在跨領(lǐng)域情感分析中的性能分析
    2.1 跨領(lǐng)域情感分析任務(wù)設(shè)置
    2.2 層次注意力網(wǎng)絡(luò)介紹及性能分析
        2.2.1 層次注意力網(wǎng)絡(luò)介紹
        2.2.2 層次注意力網(wǎng)絡(luò)在情感分析任務(wù)中的性能分析
    2.3 層次注意力遷移網(wǎng)絡(luò)介紹及性能分析
        2.3.1 層次注意力遷移網(wǎng)絡(luò)介紹
        2.3.2 層次注意力遷移網(wǎng)絡(luò)在跨領(lǐng)域情感分析任務(wù)中的性能分析
    2.4 基線模型性能瓶頸
    2.5 本章小結(jié)
第3章 結(jié)合跨領(lǐng)域注意力機(jī)制的遷移網(wǎng)絡(luò)
    3.1 相關(guān)基礎(chǔ)技術(shù)
        3.1.1 word2vec模型
        3.1.2 相關(guān)性對齊損失
    3.2 基于跨領(lǐng)域注意力機(jī)制的層次注意力遷移網(wǎng)絡(luò)
        3.2.1 相關(guān)性對齊損失
        3.2.2 跨領(lǐng)域注意力機(jī)制
        3.2.3 基于跨領(lǐng)域注意力機(jī)制的層次注意力遷移網(wǎng)絡(luò)
    3.3 基于跨領(lǐng)域注意力機(jī)制的層次注意力遷移網(wǎng)絡(luò)定量分析
    3.4 基于跨領(lǐng)域注意力機(jī)制的層次注意力遷移網(wǎng)絡(luò)可視化分析
    3.5 本章小結(jié)
第4章 結(jié)合注意力機(jī)制預(yù)訓(xùn)練語言模型的遷移網(wǎng)絡(luò)
    4.1 相關(guān)基礎(chǔ)技術(shù)
        4.1.1 注意力機(jī)制
        4.1.2 BERT預(yù)訓(xùn)練語言模型
    4.2 基于注意力機(jī)制預(yù)訓(xùn)練語言模型的遷移網(wǎng)絡(luò)
    4.3 基于注意力機(jī)制預(yù)訓(xùn)練語言模型的遷移網(wǎng)絡(luò)的實(shí)驗(yàn)分析
    4.4 基于注意力機(jī)制預(yù)訓(xùn)練語言模型的多源域遷移網(wǎng)絡(luò)及實(shí)驗(yàn)分析
        4.4.1 基于注意力機(jī)制預(yù)訓(xùn)練語言模型的多源域遷移網(wǎng)絡(luò)
        4.4.2 實(shí)驗(yàn)結(jié)果分析
    4.5 本章小結(jié)
結(jié)論
參考文獻(xiàn)
攻讀碩士學(xué)位期間發(fā)表的學(xué)術(shù)論文及其他成果
致謝



本文編號(hào)：3826950