【摘要】：知識(shí)就是力量。知識(shí)對(duì)于人類的生活至關(guān)重要,同時(shí)知識(shí)也是人工智能的基石。形成知識(shí)的過(guò)程本質(zhì)就是在建立認(rèn)知乃至理解世界。因?yàn)槿祟愑蝎@取、形成以及升華知識(shí)的能力,所以人類才可以不斷進(jìn)步。目前來(lái)說(shuō),機(jī)器可以從海量的數(shù)據(jù)中學(xué)出感知能力,包括視覺能力、聽覺能力和語(yǔ)言輸出能力。但是讓機(jī)器學(xué)會(huì)具備認(rèn)知能力卻是非常之難的,比如讓機(jī)器學(xué)會(huì)邏輯推理能力以及舉一反三能力對(duì)目前來(lái)說(shuō)是不太現(xiàn)實(shí)的。我們的目標(biāo)是使機(jī)器完全理解知識(shí)以至于能達(dá)到靈活應(yīng)用的效果。將知識(shí)應(yīng)用到人工智能應(yīng)用中分為三個(gè)階段:知識(shí)抽取、知識(shí)表示以及知識(shí)應(yīng)用。知識(shí)抽取的目標(biāo)是能夠從大規(guī)模非結(jié)構(gòu)化文本中自動(dòng)地抽取結(jié)構(gòu)化知識(shí)。目前知識(shí)抽取任務(wù)具有以下第(1)點(diǎn)不足。基于符號(hào)邏輯的知識(shí)表示對(duì)于人類來(lái)說(shuō)是很好理解的。但是這種表示形式對(duì)于機(jī)器來(lái)說(shuō)特別難理解。因此,近年來(lái)大量的工作開始研究分布式向量表示學(xué)習(xí)(又稱嵌入表示學(xué)習(xí))。對(duì)于概念圖譜嵌入表示學(xué)習(xí)和知識(shí)圖譜嵌入表示學(xué)習(xí),目前具有以下第(2)點(diǎn)不足。關(guān)于知識(shí)應(yīng)用方面,我們選擇兩個(gè)應(yīng)用場(chǎng)景來(lái)驗(yàn)證我們的想法:相似問(wèn)題檢索以及關(guān)系分類。這兩個(gè)工作在目前的學(xué)習(xí)過(guò)程中都沒有好好的利用知識(shí)信息,目前來(lái)說(shuō)具有以下第(3)點(diǎn)不足。(1)目前,知識(shí)庫(kù)經(jīng)常表示為三元組形式(主語(yǔ),謂詞,賓語(yǔ))。然而在某些情況下給定主語(yǔ)和謂詞,賓語(yǔ)并不是唯一的。傳統(tǒng)的基于知識(shí)庫(kù)的自動(dòng)問(wèn)答系統(tǒng)通常對(duì)具有相似意圖但條件不同的問(wèn)題提供相同的答案。(2)在目前的概念嵌入表示學(xué)習(xí)過(guò)程中,只有兩個(gè)詞出現(xiàn)在一個(gè)上下文窗口時(shí),對(duì)應(yīng)的概念信息才會(huì)被考慮。在知識(shí)圖譜嵌入工作中,知識(shí)圖譜中的邏輯結(jié)構(gòu)信息有很強(qiáng)的推理能力,但是在目前的知識(shí)圖譜嵌入工作中被忽略了。(3)目前沒有一個(gè)框架能同時(shí)解決相似問(wèn)題檢索任務(wù)中五個(gè)方面的挑戰(zhàn):同義性、多義性、詞序、問(wèn)題長(zhǎng)度和數(shù)據(jù)稀疏性。對(duì)于關(guān)系分類任務(wù),現(xiàn)有的模型都將其視為一個(gè)普通的分類任務(wù),而忽略了三元組信息。在本文中,我們提出了一系列解決上述局限性的方法。綜上所述,本文的貢獻(xiàn)如下:(1)為解決第一點(diǎn)缺陷,我們從問(wèn)答數(shù)據(jù)和搜索日志中構(gòu)建了條件型知識(shí)庫(kù),并搭建了一個(gè)基于條件型知識(shí)庫(kù)的對(duì)話系統(tǒng)和用戶進(jìn)行聊天并補(bǔ)充用戶提問(wèn)中缺失的條件。同時(shí)我們提出了一種新的網(wǎng)絡(luò)嵌入表示學(xué)習(xí)方法對(duì)具有兩種不同關(guān)系的網(wǎng)絡(luò)進(jìn)行編碼。(2)為解決第二點(diǎn)缺陷,我們提出了同時(shí)從依賴于上下文的視角和獨(dú)立于上下文的視角來(lái)學(xué)習(xí)概念和詞的向量表示。同時(shí)我們提出了一種基于邏輯結(jié)構(gòu)分布式編碼的知識(shí)圖譜嵌入表示學(xué)習(xí)的框架來(lái)增強(qiáng)推理能力,它可以很容易地與任何基于翻譯的知識(shí)圖譜嵌入模型相結(jié)合。(3)為解決第三點(diǎn)缺陷,我們使用一個(gè)基于高階特征嵌入表示~1的卷積語(yǔ)義模型直接學(xué)習(xí)問(wèn)題向量表示。同時(shí)我們提出一種基于值卷積的注意力機(jī)制來(lái)加強(qiáng)卷積語(yǔ)義模型。最后,我們提出使用一種基于多視圖學(xué)習(xí)的方法來(lái)訓(xùn)練卷積語(yǔ)義模型從而解決數(shù)據(jù)稀疏性問(wèn)題。為了使知識(shí)圖譜編碼到關(guān)系分類中,我們提出了一種基于知識(shí)圖譜驅(qū)動(dòng)的關(guān)系分類方法。該方法可以很容易地與現(xiàn)有的基于pairwise排序損失函數(shù)的神經(jīng)網(wǎng)絡(luò)模型結(jié)合使用。同時(shí)我們提出一種數(shù)據(jù)增強(qiáng)的方法能夠使用一個(gè)句子樣本同時(shí)學(xué)習(xí)關(guān)系的向量表示以及逆向關(guān)系的向量表示。在把知識(shí)應(yīng)用到人工智能應(yīng)用的每個(gè)階段中,我們進(jìn)行了大量的實(shí)驗(yàn)并通過(guò)和多個(gè)基準(zhǔn)模型對(duì)比來(lái)驗(yàn)證每個(gè)階段中我們所提出的模型算法。我們的實(shí)驗(yàn)結(jié)果表明我們提出的方法均能提高相應(yīng)任務(wù)的性能。
【學(xué)位授予單位】：華南理工大學(xué)
【學(xué)位級(jí)別】：博士
【學(xué)位授予年份】：2018
【分類號(hào)】：TP182
【圖文】：

圖 1-1 知識(shí)圖譜的發(fā)展歷史知識(shí)抽取本身是一項(xiàng)龐大的任務(wù)，包括命名實(shí)體識(shí)別、歧義消除、關(guān)系抽取等多個(gè)子任務(wù)[14]。一個(gè)命名實(shí)體通常是一個(gè)表示特定現(xiàn)實(shí)世界對(duì)象的詞或詞組。例如，巴拉克 奧巴馬（Barack Obama）是一個(gè)命名實(shí)體，并且其在如下句子中被特別的提到“BarackObama is visiting India in January, 2015”。一個(gè)句子中的實(shí)體指稱可以使用實(shí)體名字本身（巴拉克·奧巴馬），也可以使用其代表性名詞（美國(guó)總統(tǒng)）或者代詞（他）。命名實(shí)體通常被分為不同的通用類型：人（PERSON）、組織（ORGANIZATION/ORG）、地點(diǎn)（LOCATION）、日期（DATE）、時(shí)間（TIME）、郵政編碼（ZIPCODE）、電子郵箱（EMAIL）、網(wǎng)頁(yè)地址（URL）以及賬戶（AMOUNT）等。其他通用的實(shí)體類別包括:電影標(biāo)題以及書名等。在一些細(xì)粒度的分類中，人還可以分為政治家、科學(xué)家、體育明星、電影明星以及音樂(lè)家等。領(lǐng)域相關(guān)的實(shí)體又包括專業(yè)的一些類別。比如，在生物領(lǐng)域中包括蛋白質(zhì)、酶、基因以及細(xì)胞等命名實(shí)體。在制造領(lǐng)域內(nèi)包括制造商、產(chǎn)品、品牌以及特色等。關(guān)系通常表示兩個(gè)或多個(gè)實(shí)體之間定義的關(guān)系。比如，人和組織之間的“成員-從屬”

第二章 基于模板的條件型知識(shí)和醫(yī)療知識(shí)抽取時(shí)在這次工作中，我們只關(guān)心缺少單個(gè)條件的情況，將來(lái)會(huì)推廣到多條件缺失的任務(wù)中。表 2-3 條件型知識(shí)庫(kù)示例主語(yǔ) 謂詞 賓語(yǔ)（答案） 條件Windows 10 change_login_screen press Ctrl+Alt+Delete, and then click Change... password|pwd|pinWindows 10 change_login_screen Find the “disable lock screen” option first, then... background|wallpaperOffice 365 download download office 365 on the official website... windows_8|win7Office 365 download download office 365 from apple app store iphone|iphone_6Bed wash_surface clear the surface with a damp cloth baking_varnish|paintingBed wash_surface better to use a dry cloth to scrub or ask for... stickers|paper2.2.2 條件型知識(shí)庫(kù)搭建

μ跫鋿蛄勘硎鏡撓鏌騫叵擔(dān)嚅頤怯?t-SNE 工具5[131]在圖2-4 中的二維空間中顯示了條件對(duì)應(yīng)的字符云。t-SNE 是一種降維的算法。從圖 2-4 中,我們可以看到,不同的字面表達(dá)但是具有相似語(yǔ)義含義的條件被聚合在一起。5http://lvdmaaten.github.io/tsne/

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 劉從軍;夏永鋒;;模板方法模式在回溯算法中的應(yīng)用[J];微計(jì)算機(jī)信息;2009年21期

2 閆偉華;;模板方法模式的改進(jìn)[J];計(jì)算機(jī)應(yīng)用;2011年S1期

3 崔元;張琢;;基于大規(guī)模網(wǎng)絡(luò)日志的模板提取研究[J];計(jì)算機(jī)科學(xué);2017年S2期

4 陳淑鑫;孫偉民;孔嘯;;LAMOST恒星分類模板間相似性度量分析[J];光譜學(xué)與光譜分析;2018年06期

5 王永剛;;模板模式在OOP中的應(yīng)用[J];福建信息技術(shù)教育;2006年01期

6 劉從軍;;GOF的模板方法及其在回溯算法中應(yīng)用研究[J];現(xiàn)代電子技術(shù);2009年20期

7 于新瑞,王石剛,關(guān)柏青,王穎峰;一種快速檢測(cè)圓的抗干擾變形模板方法[J];光學(xué)學(xué)報(bào);2004年08期

8 張潔;;設(shè)計(jì)模式在游戲框架設(shè)計(jì)中的應(yīng)用[J];科技傳播;2011年20期

9 張曉東,巫新春,張立,張軍,肖尚喜;四種提取單純皰疹病毒核酸模板方法比較[J];安徽醫(yī)學(xué);1998年02期

10 郭江;軟件重用的模板方法[J];計(jì)算機(jī)應(yīng)用研究;1993年02期

相關(guān)會(huì)議論文 前2條

1 李藝;裴仙鳳;陳玉霞;李寶宗;楊永剛;;通過(guò)單一模板方法合成二氧化硅納米蠶繭[A];第十五屆全國(guó)分子篩學(xué)術(shù)大會(huì)論文集[C];2009年

2 方志煒;于水源;杜利民;;基于短語(yǔ)本位語(yǔ)法體系的混合模板漢語(yǔ)生成[A];第二屆全國(guó)學(xué)生計(jì)算語(yǔ)言學(xué)研討會(huì)論文集[C];2004年

相關(guān)博士學(xué)位論文 前2條

1 王鵬偉;基于模板學(xué)習(xí)和深度學(xué)習(xí)的知識(shí)抽取和表示學(xué)習(xí)的研究與應(yīng)用[D];華南理工大學(xué);2018年

2 邱園;多級(jí)孔HZSM-5中大孔、介孔的硬模板可控構(gòu)建及其催化性能[D];天津大學(xué);2017年

相關(guān)碩士學(xué)位論文 前4條

1 楊曉霞;聯(lián)合特征驅(qū)動(dòng)方法和模板方法預(yù)測(cè)蛋白質(zhì)的核酸綁定殘基[D];華中農(nóng)業(yè)大學(xué);2015年

2 崔元;面向大規(guī)模網(wǎng)絡(luò)日志的主動(dòng)故障檢測(cè)方法的研究[D];東北師范大學(xué);2017年

3 劉素蘋;一種提高指紋識(shí)別率的多模板方法的研究與實(shí)現(xiàn)[D];西安電子科技大學(xué);2015年

4 符娟;搜索算法庫(kù)的研制[D];武漢理工大學(xué);2007年

本文編號(hào)：2799699