知識(shí)圖譜是當(dāng)今大數(shù)據(jù)時(shí)代至關(guān)重要的信息數(shù)據(jù)庫,未來將在零售、供應(yīng)鏈、金融等領(lǐng)域持續(xù)發(fā)揮信息的檢索和推理作用。知識(shí)圖譜雖然已經(jīng)對(duì)知識(shí)信息進(jìn)行了結(jié)構(gòu)化的表示,但在實(shí)際生產(chǎn)應(yīng)用中如何利用這些信息仍然是一個(gè)巨大的挑戰(zhàn)。而知識(shí)圖譜表示學(xué)習(xí)為知識(shí)圖譜實(shí)際應(yīng)用信息的使用提供了重要的解決途徑。知識(shí)圖譜表示學(xué)習(xí)技術(shù)逐漸成為知識(shí)圖譜應(yīng)用到生產(chǎn)領(lǐng)域的關(guān)鍵一環(huán),可以應(yīng)用于推薦系統(tǒng)、知識(shí)問答、自然語言理解等眾多領(lǐng)域。大多數(shù)現(xiàn)有的知識(shí)圖譜表示學(xué)習(xí)方法都將目光集中于知識(shí)圖譜中現(xiàn)有的三元組內(nèi)部所蘊(yùn)含的信息。近年來,許多研究顯示,知識(shí)圖譜中實(shí)體之間的上下文信息,諸如實(shí)體間隱藏的聯(lián)系、鄰域信息、路徑信息等都可以對(duì)知識(shí)圖譜表示學(xué)習(xí)任務(wù)起到十分可觀的作用。本文著重對(duì)實(shí)體間隱藏的聯(lián)系和鄰域信息進(jìn)行了研究和實(shí)驗(yàn),探討了它們?cè)谥R(shí)圖譜表示學(xué)習(xí)的中的影響。對(duì)于實(shí)體間隱藏的聯(lián)系,我們提出一種結(jié)合注意力機(jī)制的知識(shí)圖譜表示學(xué)習(xí)翻譯模型。我們?cè)谔砑臃蔷�性映射的Trans D的基礎(chǔ)上,將實(shí)體與其他實(shí)體之間使用注意力機(jī)制聯(lián)系起來,進(jìn)一步增強(qiáng)了模型的效果。此外我們的模型復(fù)雜度相對(duì)神經(jīng)網(wǎng)絡(luò)模型較低,但是依然具有不差于神經(jīng)網(wǎng)絡(luò)模型的效果。對(duì)于鄰域信息...

【文章頁數(shù)】：75 頁

【學(xué)位級(jí)別】：碩士

【部分圖文】：

圖1.1:知識(shí)圖譜結(jié)構(gòu)圖[51]

第一章緒論華東師范大學(xué)研究生碩士學(xué)位論文常重要的角色，在文本翻譯、資料查詢、智能服務(wù)、自動(dòng)建議、互聯(lián)網(wǎng)購(gòu)物、財(cái)務(wù)風(fēng)控、刑事案件調(diào)查、司法審理等具體應(yīng)用方面都起著至關(guān)重要的支柱作用。許多特定的用途和應(yīng)用都依賴于知識(shí)圖譜，例如根據(jù)上下文的內(nèi)容推薦，知識(shí)圖譜驅(qū)動(dòng)的藥物發(fā)現(xiàn)、語義搜索、投....

圖2.1:典型的生物神經(jīng)網(wǎng)絡(luò)

第二章相關(guān)知識(shí)和技術(shù)2.1神經(jīng)網(wǎng)絡(luò)和注意力機(jī)制2.1.1神經(jīng)網(wǎng)絡(luò)人工神經(jīng)網(wǎng)絡(luò)，簡(jiǎn)稱神經(jīng)網(wǎng)絡(luò)，神經(jīng)網(wǎng)絡(luò)的概念近十幾年來在計(jì)算機(jī)領(lǐng)域十分火熱，其主要是受生物學(xué)啟發(fā)通過模仿人類神經(jīng)細(xì)胞結(jié)構(gòu)來進(jìn)行數(shù)據(jù)的計(jì)算和傳遞。神經(jīng)網(wǎng)絡(luò)通常是模仿構(gòu)建人類神經(jīng)結(jié)構(gòu)的計(jì)算網(wǎng)絡(luò)，類似于人類神經(jīng)系統(tǒng)中的結(jié)構(gòu)相....

圖2.2:典型的人工神經(jīng)網(wǎng)絡(luò)

第二章相關(guān)知識(shí)和技術(shù)華東師范大學(xué)研究生碩士學(xué)位論文圖2.2:典型的人工神經(jīng)網(wǎng)絡(luò)表2.1:生物神經(jīng)網(wǎng)絡(luò)與人工神經(jīng)網(wǎng)絡(luò)對(duì)應(yīng)關(guān)系生物神經(jīng)網(wǎng)絡(luò)人工神經(jīng)網(wǎng)絡(luò)樹突（Dendrite）輸入（Input）細(xì)胞核（CellNucleus）節(jié)點(diǎn)（Node）突觸（Synapse）權(quán)重（Weight）軸....

圖2.3:神經(jīng)網(wǎng)絡(luò)三層結(jié)構(gòu)

第二章相關(guān)知識(shí)和技術(shù)華東師范大學(xué)研究生碩士學(xué)位論文圖2.3:神經(jīng)網(wǎng)絡(luò)三層結(jié)構(gòu)以一個(gè)傳遞函數(shù)的形式表示。n∑i=1WiXi+b其中W為權(quán)重，X為輸入，b為偏差，該函數(shù)計(jì)算得到的權(quán)重總計(jì)將作為輸入傳遞給一個(gè)激活函數(shù)以生成輸出。激活函數(shù)決定一個(gè)節(jié)點(diǎn)是否應(yīng)被觸發(fā)，只有那些被激活的節(jié)點(diǎn)才能....

本文編號(hào)：3973009