智能問(wèn)答系統(tǒng)是當(dāng)前自然語(yǔ)言處理研究中的難點(diǎn)和熱點(diǎn)。基于深度學(xué)習(xí)的端到端問(wèn)答系統(tǒng)使用自然語(yǔ)言句子作為輸入,無(wú)需詞法句法處理就可以自動(dòng)提取句子間的語(yǔ)義特征,并在候選答案中挑選出符合問(wèn)題要求的正確答案。理解自然語(yǔ)言句子之間的語(yǔ)義關(guān)系是問(wèn)答系統(tǒng)中最困難的環(huán)節(jié),也是目前自然語(yǔ)言處理任務(wù)所面臨的核心問(wèn)題。本課題研究端到端的檢索式問(wèn)答系統(tǒng)中如何計(jì)算和評(píng)價(jià)自然語(yǔ)言句子之間的語(yǔ)義關(guān)系,如何將計(jì)算過(guò)程與評(píng)價(jià)過(guò)程結(jié)合起來(lái),提高檢索的效率。本課題的創(chuàng)新點(diǎn)如下:一是針對(duì)以往問(wèn)答模型中單向分配權(quán)重的缺陷設(shè)計(jì)了一種雙向權(quán)重分配機(jī)制,在計(jì)算問(wèn)題的表達(dá)時(shí)動(dòng)態(tài)地加入答案的影響;二是針對(duì)以往問(wèn)答系統(tǒng)只對(duì)詞進(jìn)行特征強(qiáng)化的缺陷設(shè)計(jì)了句子層面的特征強(qiáng)化機(jī)制;三是設(shè)計(jì)了同時(shí)在多個(gè)角度對(duì)句子和詞的特征進(jìn)行強(qiáng)化的算法和模型;四是設(shè)計(jì)了一種新的只針對(duì)詞的特征強(qiáng)化算法并將特征分層次添加到網(wǎng)絡(luò)中。多個(gè)公開(kāi)數(shù)據(jù)集的實(shí)驗(yàn)結(jié)果表明,本課題的四項(xiàng)創(chuàng)新分別提高了基準(zhǔn)模型的性能,達(dá)到了目前最好的準(zhǔn)確率水平。針對(duì)創(chuàng)新點(diǎn)撰寫的四篇論文分別被國(guó)際會(huì)議發(fā)表或錄用。 

【文章頁(yè)數(shù)】：76 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
Abstract
符號(hào)說(shuō)明
第一章 緒論
    1.1 選題背景
    1.2 QA系統(tǒng)的分類
    1.3 檢索式問(wèn)答系統(tǒng)研究現(xiàn)狀
        1.3.1 檢索式問(wèn)答系統(tǒng)中的匹配和排序?qū)W習(xí)
        1.3.2 注意力機(jī)制在答案選擇中的發(fā)展
    1.4 主要研究?jī)?nèi)容
        1.4.1 基于雙向權(quán)重分配的pair-wise算法和模型研究
        1.4.2 基于句子維度特征增強(qiáng)的list-wise算法和模型研究
        1.4.3 基于多維度文本特征增強(qiáng)的算法和模型研究
        1.4.4 基于詞注意力機(jī)制的特征增強(qiáng)研究
第二章 關(guān)鍵技術(shù)
    2.1 深度學(xué)習(xí)
        2.1.1 人工神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介
        2.1.2 答案選擇任務(wù)常用模型結(jié)構(gòu)
    2.2 注意力機(jī)制
        2.2.1 注意力機(jī)制原理
        2.2.2 注意力機(jī)制分類
    2.3 性能評(píng)價(jià)指標(biāo)
        2.3.1 排序?qū)W習(xí)分類
        2.3.2 算法評(píng)價(jià)指標(biāo)
第三章 基于雙向權(quán)重分配的pair-wise算法和模型研究
    3.1 創(chuàng)新點(diǎn)
    3.2 模型和算法
    3.3 公開(kāi)數(shù)據(jù)集
        3.3.1 數(shù)據(jù)集分類
        3.3.2 使用數(shù)據(jù)集介紹
    3.4 實(shí)驗(yàn)結(jié)果和分析
        3.4.1 實(shí)驗(yàn)結(jié)果
        3.4.2 案例分析
        3.4.3 模型拆解分析和參數(shù)規(guī)模對(duì)比分析
第四章 基于句子維度特征增強(qiáng)的list-wise算法和模型研究
    4.1 創(chuàng)新點(diǎn)
    4.2 模型和算法
        4.2.1 多注意力機(jī)制
        4.2.2 編碼層
        4.2.3 第二層注意力機(jī)制
        4.2.4 對(duì)比集成和評(píng)分層
    4.3 實(shí)驗(yàn)結(jié)果
    4.4 實(shí)驗(yàn)分析
        4.4.1 問(wèn)題類型分析
        4.4.2 案例分析
        4.4.3 模型拆解分析和參數(shù)規(guī)模分析
第五章 基于多維度文本特征增強(qiáng)的算法和模型研究
    5.1 創(chuàng)新點(diǎn)
    5.2 模型和算法
        5.2.1 句子維度特征增強(qiáng)
        5.2.2 編碼層
        5.2.3 雙重交互確認(rèn)層
    5.3 實(shí)驗(yàn)結(jié)果
    5.4 實(shí)驗(yàn)分析
        5.4.1 各部分功能分析
        5.4.2 案例分析
        5.4.3 問(wèn)題類型分析
第六章 基于詞注意力機(jī)制的特征增強(qiáng)研究
    6.1 創(chuàng)新點(diǎn)
    6.2 模型和算法
        6.2.1 詞注意力和局部特征
        6.2.2 詞注意力和全局特征
    6.3 實(shí)驗(yàn)結(jié)果
    6.4 實(shí)驗(yàn)分析
        6.4.1 模型拆解實(shí)驗(yàn)
        6.4.2 案例分析
第七章 總結(jié)和展望
參考文獻(xiàn)
致謝
攻讀碩士期間發(fā)表的學(xué)術(shù)論文和專利



本文編號(hào)：3725270