基于圖譜實(shí)體表示與排序?qū)W習(xí)的文本檢索方法研究
發(fā)布時(shí)間:2023-04-22 14:52
在高速發(fā)展的互聯(lián)網(wǎng)時(shí)代,檢索成為了人們查找并獲取知識(shí)重要手段,其便利的使用方法可以幫助人們快速獲取想要的信息。文本檢索作為最基本的檢索方式之一,雖然在過去的幾十年中通過傳統(tǒng)的布爾模型,詞袋模型和一些經(jīng)典的排序算法有了極大的提高,但是仍然存在很多問題。一方面是算法在自然語(yǔ)言的理解上的不足。傳統(tǒng)的方法大部分基于詞頻的統(tǒng)計(jì)匹配而并非是在語(yǔ)義上理解文章和問題給出答案,導(dǎo)致很多答案沒有準(zhǔn)確理解搜索語(yǔ)義而被排除掉。另一方面?zhèn)鹘y(tǒng)的排序模型也存在著學(xué)習(xí)能力不足,學(xué)習(xí)效果嚴(yán)重依賴于人工特征選擇和提取等問題。在過去的幾年中深度學(xué)習(xí)模型和知識(shí)圖譜表示推理有了很大的進(jìn)展,并在各個(gè)領(lǐng)域取得了重要突破。深度學(xué)習(xí)網(wǎng)絡(luò)因?yàn)槠涠说蕉说膬?yōu)秀提取特征能力,以及層數(shù)的疊加帶來的計(jì)算收益在很多方面超越了傳統(tǒng)的機(jī)器學(xué)習(xí)算法,在深度學(xué)習(xí)模型上發(fā)展的詞向量和文本表示模型已經(jīng)廣泛的應(yīng)用在自然語(yǔ)言的各種分支中。知識(shí)圖譜可以描述實(shí)體的概念和實(shí)體之間關(guān)系,并構(gòu)成巨大的網(wǎng)絡(luò)關(guān)系圖,其中的概念經(jīng)過人工審核準(zhǔn)確而可靠。通過知識(shí)圖譜,可以準(zhǔn)確的存儲(chǔ)有關(guān)實(shí)體的知識(shí),在問答和檢索,實(shí)體連接等任務(wù)上都有可靠的表現(xiàn)。借助現(xiàn)有的知識(shí)圖譜表示方法和深度學(xué)習(xí)排序...
【文章頁(yè)數(shù)】:73 頁(yè)
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
abstract
第1章 緒論
1.1 研究工作的背景和意義
1.2 國(guó)內(nèi)外研究歷史和現(xiàn)狀
1.2.1 基于傳統(tǒng)方法的文本檢索研究現(xiàn)狀
1.2.2 基于深度學(xué)習(xí)的文本檢索研究現(xiàn)狀
1.2.3 基于實(shí)體表示的文本檢索研究現(xiàn)狀
1.3 本論文的主要工作內(nèi)容
第2章 相關(guān)工作
2.1 知識(shí)圖實(shí)體表示方法
2.1.1 知識(shí)圖譜簡(jiǎn)介
2.1.2 圖譜構(gòu)建方法
2.1.3 圖譜實(shí)體表示
2.1.3.1 網(wǎng)絡(luò)表示學(xué)習(xí)
2.1.3.2 知識(shí)圖譜表示學(xué)習(xí)
2.2 深度學(xué)習(xí)
2.2.1 常用的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
2.2.2 詞向量與相似度矩陣
2.2.2.1 詞向量的獲取
2.2.2.2 相似度矩陣的計(jì)算方式
2.2.3 神經(jīng)網(wǎng)絡(luò)在檢索模型中的應(yīng)用
2.2.3.1 基于表示的模型結(jié)構(gòu)
2.2.3.2 基于交互的模型結(jié)構(gòu)
2.3 排序?qū)W習(xí)方法
2.4 本章小結(jié)
第3章 基于多關(guān)系實(shí)體嵌入的檢索模型
3.1 基于交互的模型結(jié)構(gòu)K-NRM
3.2 引入多關(guān)系實(shí)體嵌入的K-NRM
3.3 實(shí)驗(yàn)
3.3.1 實(shí)驗(yàn)數(shù)據(jù)集介紹
3.3.2 模型的評(píng)價(jià)標(biāo)準(zhǔn)
3.3.3 實(shí)驗(yàn)環(huán)境介紹
3.3.4 實(shí)驗(yàn)細(xì)節(jié)及參數(shù)設(shè)置
3.3.5 實(shí)驗(yàn)結(jié)果評(píng)估
3.4 本章小結(jié)
第4章 改進(jìn)的深度學(xué)習(xí)排序網(wǎng)絡(luò)用于文本檢索
4.1 多頭自注意力機(jī)制
4.2 使用改進(jìn)的多頭自注意力機(jī)制的AKESR模型
4.3 實(shí)驗(yàn)
4.3.1 實(shí)驗(yàn)細(xì)節(jié)及參數(shù)設(shè)置
4.3.2 實(shí)驗(yàn)結(jié)果評(píng)估
4.4 本章小結(jié)
第5章 結(jié)果與展望
參考文獻(xiàn)
作者簡(jiǎn)介及在學(xué)期間所獲得的科研成果
致謝
本文編號(hào):3797857
【文章頁(yè)數(shù)】:73 頁(yè)
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
abstract
第1章 緒論
1.1 研究工作的背景和意義
1.2 國(guó)內(nèi)外研究歷史和現(xiàn)狀
1.2.1 基于傳統(tǒng)方法的文本檢索研究現(xiàn)狀
1.2.2 基于深度學(xué)習(xí)的文本檢索研究現(xiàn)狀
1.2.3 基于實(shí)體表示的文本檢索研究現(xiàn)狀
1.3 本論文的主要工作內(nèi)容
第2章 相關(guān)工作
2.1 知識(shí)圖實(shí)體表示方法
2.1.1 知識(shí)圖譜簡(jiǎn)介
2.1.2 圖譜構(gòu)建方法
2.1.3 圖譜實(shí)體表示
2.1.3.1 網(wǎng)絡(luò)表示學(xué)習(xí)
2.1.3.2 知識(shí)圖譜表示學(xué)習(xí)
2.2 深度學(xué)習(xí)
2.2.1 常用的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
2.2.2 詞向量與相似度矩陣
2.2.2.1 詞向量的獲取
2.2.2.2 相似度矩陣的計(jì)算方式
2.2.3 神經(jīng)網(wǎng)絡(luò)在檢索模型中的應(yīng)用
2.2.3.1 基于表示的模型結(jié)構(gòu)
2.2.3.2 基于交互的模型結(jié)構(gòu)
2.3 排序?qū)W習(xí)方法
2.4 本章小結(jié)
第3章 基于多關(guān)系實(shí)體嵌入的檢索模型
3.1 基于交互的模型結(jié)構(gòu)K-NRM
3.2 引入多關(guān)系實(shí)體嵌入的K-NRM
3.3 實(shí)驗(yàn)
3.3.1 實(shí)驗(yàn)數(shù)據(jù)集介紹
3.3.2 模型的評(píng)價(jià)標(biāo)準(zhǔn)
3.3.3 實(shí)驗(yàn)環(huán)境介紹
3.3.4 實(shí)驗(yàn)細(xì)節(jié)及參數(shù)設(shè)置
3.3.5 實(shí)驗(yàn)結(jié)果評(píng)估
3.4 本章小結(jié)
第4章 改進(jìn)的深度學(xué)習(xí)排序網(wǎng)絡(luò)用于文本檢索
4.1 多頭自注意力機(jī)制
4.2 使用改進(jìn)的多頭自注意力機(jī)制的AKESR模型
4.3 實(shí)驗(yàn)
4.3.1 實(shí)驗(yàn)細(xì)節(jié)及參數(shù)設(shè)置
4.3.2 實(shí)驗(yàn)結(jié)果評(píng)估
4.4 本章小結(jié)
第5章 結(jié)果與展望
參考文獻(xiàn)
作者簡(jiǎn)介及在學(xué)期間所獲得的科研成果
致謝
本文編號(hào):3797857
本文鏈接:http://www.sikaile.net/kejilunwen/shengwushengchang/3797857.html
最近更新
教材專著