海量空間數(shù)據(jù)的分布式存儲管理及并行處理技術(shù)研究
發(fā)布時間:2022-07-13 12:14
隨著空間數(shù)據(jù)規(guī)模的不斷增長,空間分析和處理技術(shù)的復(fù)雜程度不斷增加,使得對海量空間數(shù)據(jù)進行高效管理和處理的難度不斷加大,迫切需要新的技術(shù)和方法來管理和處理海量空間數(shù)據(jù)。分布式存儲和并行計算為解決上述問題提供了一種新的方法。本文針對當前空間數(shù)據(jù)存儲和處理方法存在的若干不足,在總結(jié)應(yīng)用問題和需求的基礎(chǔ)上,著重在基于HBase的海量空間數(shù)據(jù)管理技術(shù)和海量空間數(shù)據(jù)并行處理方法等方面進行深入研究,主要取得了以下研究成果:(1)深入研究了空間數(shù)據(jù)存儲系統(tǒng)與并行處理方法,為并行空間數(shù)據(jù)的存儲與處理提供具體的理論指導(dǎo),并指出了傳統(tǒng)方法存儲和處理海量空間數(shù)據(jù)存在的不足。(2)深入研究了架構(gòu)在分布式文件系統(tǒng)上的存儲系統(tǒng)HBase,為空間數(shù)據(jù)的分布式存儲管理提供技術(shù)支撐。設(shè)計了適合分布式存儲的并行索引,提出了基于HBase的空間數(shù)據(jù)管理方法,并通過與傳統(tǒng)存儲方法的對比實驗,驗證了HBase在海量空間數(shù)據(jù)分布式存儲方面性能的優(yōu)越性。(3)設(shè)計并實現(xiàn)了基于Map Reduce并行編程框架的海量空間數(shù)據(jù)并行處理引擎Map ReduceGIS。由于Map Reduce不直接支持空間數(shù)據(jù)的關(guān)系連接,設(shè)計了一種基于Map...
【文章頁數(shù)】:68 頁
【學(xué)位級別】:碩士
【文章目錄】:
摘要
ABSTRACT
第一章 緒論
1.1 課題背景和來源
1.2 國內(nèi)外研究現(xiàn)狀
1.2.1 空間數(shù)據(jù)存儲技術(shù)研究現(xiàn)狀
1.2.2 并行計算技術(shù)研究現(xiàn)狀
1.3 論文研究內(nèi)容和論文組織結(jié)構(gòu)
第二章 分布式存儲與并行處理相關(guān)技術(shù)
2.1 空間數(shù)據(jù)存儲系統(tǒng)概述
2.1.1 空間數(shù)據(jù)庫
2.1.2 分布式數(shù)據(jù)庫系統(tǒng)
2.1.3 Hadoop 分布式文件系統(tǒng)
2.2 并行處理方法概述
2.2.1 Map Reduce
2.2.2 并行查詢
2.2.3 GIS 標準庫
2.3 現(xiàn)有技術(shù)的不足
2.3.1 空間數(shù)據(jù)存儲系統(tǒng)
2.3.2 地理信息系統(tǒng)
2.4 本章小結(jié)
第三章 基于HBase 的海量空間數(shù)據(jù)管理技術(shù)
3.1 HBase 體系分析
3.1.1 HBase 數(shù)據(jù)模型
3.1.2 HBase 實現(xiàn)機制
3.2 并行Hilbert R-Tree 索引設(shè)計
3.2.1 基于Hilbert 空間填充曲線的數(shù)據(jù)劃分
3.2.2 并行Hilbert R-Tree 索引設(shè)計
3.3 基于HBase 的海量空間數(shù)據(jù)管理
3.3.1 空間數(shù)據(jù)管理流程
3.3.2 矢量數(shù)據(jù)管理
3.3.3 柵格數(shù)據(jù)管理
3.4 HBase 與關(guān)系數(shù)據(jù)庫的對比實驗
3.4.1 HBase 與關(guān)系數(shù)據(jù)庫的區(qū)別
3.4.2 測試實驗
3.5 本章小結(jié)
第四章 海量空間數(shù)據(jù)并行處理方法的設(shè)計與實現(xiàn)
4.1 需求分析
4.2 Map ReduceGIS 設(shè)計
4.2.1 體系結(jié)構(gòu)
4.2.2 流程分析
4.3 Map ReduceGIS 實現(xiàn)
4.3.1 Map ReduceGIS 環(huán)境搭建
4.3.2 核心模塊實現(xiàn)
4.3.3 操作模塊實現(xiàn)
4.3.4 索引模塊實現(xiàn)
4.3.5 其它模塊實現(xiàn)
4.4 基于Map Reduce 的并行空間連接
4.4.1 并行空間連接處理體系結(jié)構(gòu)
4.4.2 Map 階段
4.4.3 Reduce 階段
4.5 本章小結(jié)
第五章 并行處理實驗結(jié)果與分析
5.1 實驗配置
5.2 Map ReduceGIS 操作實驗
5.2.1 新增實驗
5.2.2 讀取實驗
5.2.3 最近鄰實驗
5.3 可用性分析
5.3.1 執(zhí)行性評估
5.3.2 編程能力評估
5.3.3 可擴展能力評估
5.4 本章小結(jié)
第六章 結(jié)論與展望
6.1 主要研究成果
6.2 下一步工作
致謝
參考文獻
攻讀碩士學(xué)位期間取得的學(xué)術(shù)成果
【參考文獻】:
期刊論文
[1]并行計算的一體化研究現(xiàn)狀與發(fā)展趨勢[J]. 陳國良,孫廣中,徐云,龍柏. 科學(xué)通報. 2009(08)
[2]一種面向并行空間數(shù)據(jù)庫的數(shù)據(jù)劃分算法研究[J]. 趙春宇,孟令奎,林志勇. 武漢大學(xué)學(xué)報(信息科學(xué)版). 2006(11)
[3]基于Oracle Spatial的Shapefile數(shù)據(jù)存儲研究[J]. 孫榮輝,劉先林,趙文吉. 首都師范大學(xué)學(xué)報(自然科學(xué)版). 2006(05)
[4]海量影像數(shù)據(jù)庫管理系統(tǒng)關(guān)鍵技術(shù)研究[J]. 樊小泊,陳紅. 計算機工程與應(yīng)用. 2006(30)
[5]海量影像無縫數(shù)據(jù)庫管理系統(tǒng)的設(shè)計及實現(xiàn)[J]. 楊忠德,李明祿,李魯群. 計算機工程與應(yīng)用. 2004(30)
[6]淺談柵格數(shù)據(jù)結(jié)構(gòu)及其壓縮編碼方法[J]. 劉於勛,李國偉,馬麗. 鄭州工業(yè)高等?茖W(xué)校學(xué)報. 2004(03)
[7]Shapefile文件轉(zhuǎn)換為GML文件的方法[J]. 張竟,陸嶸,吳健平. 地理與地理信息科學(xué). 2004(01)
[8]大型GIS海量數(shù)據(jù)分布式組織與管理[J]. 馬榮華,黃杏元. 南京大學(xué)學(xué)報(自然科學(xué)版). 2003(06)
[9]分布式并行計算環(huán)境:MPI[J]. 王萃寒,趙晨,許小剛,吳國新. 計算機科學(xué). 2003(01)
[10]ShapeFile圖形文件的數(shù)據(jù)導(dǎo)出方法研究[J]. 胡順全,譚向農(nóng). 石油工業(yè)計算機應(yīng)用. 2001(04)
博士論文
[1]基于對象—關(guān)系模型的空間數(shù)據(jù)建模研究[D]. 趙俊美.中國地質(zhì)大學(xué)(北京) 2007
碩士論文
[1]海量遙感影像數(shù)據(jù)存儲技術(shù)研究[D]. 劉偉.國防科學(xué)技術(shù)大學(xué) 2007
[2]全球海量遙感影像數(shù)據(jù)的分布式管理技術(shù)研究[D]. 劉露.國防科學(xué)技術(shù)大學(xué) 2007
本文編號:3660023
【文章頁數(shù)】:68 頁
【學(xué)位級別】:碩士
【文章目錄】:
摘要
ABSTRACT
第一章 緒論
1.1 課題背景和來源
1.2 國內(nèi)外研究現(xiàn)狀
1.2.1 空間數(shù)據(jù)存儲技術(shù)研究現(xiàn)狀
1.2.2 并行計算技術(shù)研究現(xiàn)狀
1.3 論文研究內(nèi)容和論文組織結(jié)構(gòu)
第二章 分布式存儲與并行處理相關(guān)技術(shù)
2.1 空間數(shù)據(jù)存儲系統(tǒng)概述
2.1.1 空間數(shù)據(jù)庫
2.1.2 分布式數(shù)據(jù)庫系統(tǒng)
2.1.3 Hadoop 分布式文件系統(tǒng)
2.2 并行處理方法概述
2.2.1 Map Reduce
2.2.2 并行查詢
2.2.3 GIS 標準庫
2.3 現(xiàn)有技術(shù)的不足
2.3.1 空間數(shù)據(jù)存儲系統(tǒng)
2.3.2 地理信息系統(tǒng)
2.4 本章小結(jié)
第三章 基于HBase 的海量空間數(shù)據(jù)管理技術(shù)
3.1 HBase 體系分析
3.1.1 HBase 數(shù)據(jù)模型
3.1.2 HBase 實現(xiàn)機制
3.2 并行Hilbert R-Tree 索引設(shè)計
3.2.1 基于Hilbert 空間填充曲線的數(shù)據(jù)劃分
3.2.2 并行Hilbert R-Tree 索引設(shè)計
3.3 基于HBase 的海量空間數(shù)據(jù)管理
3.3.1 空間數(shù)據(jù)管理流程
3.3.2 矢量數(shù)據(jù)管理
3.3.3 柵格數(shù)據(jù)管理
3.4 HBase 與關(guān)系數(shù)據(jù)庫的對比實驗
3.4.1 HBase 與關(guān)系數(shù)據(jù)庫的區(qū)別
3.4.2 測試實驗
3.5 本章小結(jié)
第四章 海量空間數(shù)據(jù)并行處理方法的設(shè)計與實現(xiàn)
4.1 需求分析
4.2 Map ReduceGIS 設(shè)計
4.2.1 體系結(jié)構(gòu)
4.2.2 流程分析
4.3 Map ReduceGIS 實現(xiàn)
4.3.1 Map ReduceGIS 環(huán)境搭建
4.3.2 核心模塊實現(xiàn)
4.3.3 操作模塊實現(xiàn)
4.3.4 索引模塊實現(xiàn)
4.3.5 其它模塊實現(xiàn)
4.4 基于Map Reduce 的并行空間連接
4.4.1 并行空間連接處理體系結(jié)構(gòu)
4.4.2 Map 階段
4.4.3 Reduce 階段
4.5 本章小結(jié)
第五章 并行處理實驗結(jié)果與分析
5.1 實驗配置
5.2 Map ReduceGIS 操作實驗
5.2.1 新增實驗
5.2.2 讀取實驗
5.2.3 最近鄰實驗
5.3 可用性分析
5.3.1 執(zhí)行性評估
5.3.2 編程能力評估
5.3.3 可擴展能力評估
5.4 本章小結(jié)
第六章 結(jié)論與展望
6.1 主要研究成果
6.2 下一步工作
致謝
參考文獻
攻讀碩士學(xué)位期間取得的學(xué)術(shù)成果
【參考文獻】:
期刊論文
[1]并行計算的一體化研究現(xiàn)狀與發(fā)展趨勢[J]. 陳國良,孫廣中,徐云,龍柏. 科學(xué)通報. 2009(08)
[2]一種面向并行空間數(shù)據(jù)庫的數(shù)據(jù)劃分算法研究[J]. 趙春宇,孟令奎,林志勇. 武漢大學(xué)學(xué)報(信息科學(xué)版). 2006(11)
[3]基于Oracle Spatial的Shapefile數(shù)據(jù)存儲研究[J]. 孫榮輝,劉先林,趙文吉. 首都師范大學(xué)學(xué)報(自然科學(xué)版). 2006(05)
[4]海量影像數(shù)據(jù)庫管理系統(tǒng)關(guān)鍵技術(shù)研究[J]. 樊小泊,陳紅. 計算機工程與應(yīng)用. 2006(30)
[5]海量影像無縫數(shù)據(jù)庫管理系統(tǒng)的設(shè)計及實現(xiàn)[J]. 楊忠德,李明祿,李魯群. 計算機工程與應(yīng)用. 2004(30)
[6]淺談柵格數(shù)據(jù)結(jié)構(gòu)及其壓縮編碼方法[J]. 劉於勛,李國偉,馬麗. 鄭州工業(yè)高等?茖W(xué)校學(xué)報. 2004(03)
[7]Shapefile文件轉(zhuǎn)換為GML文件的方法[J]. 張竟,陸嶸,吳健平. 地理與地理信息科學(xué). 2004(01)
[8]大型GIS海量數(shù)據(jù)分布式組織與管理[J]. 馬榮華,黃杏元. 南京大學(xué)學(xué)報(自然科學(xué)版). 2003(06)
[9]分布式并行計算環(huán)境:MPI[J]. 王萃寒,趙晨,許小剛,吳國新. 計算機科學(xué). 2003(01)
[10]ShapeFile圖形文件的數(shù)據(jù)導(dǎo)出方法研究[J]. 胡順全,譚向農(nóng). 石油工業(yè)計算機應(yīng)用. 2001(04)
博士論文
[1]基于對象—關(guān)系模型的空間數(shù)據(jù)建模研究[D]. 趙俊美.中國地質(zhì)大學(xué)(北京) 2007
碩士論文
[1]海量遙感影像數(shù)據(jù)存儲技術(shù)研究[D]. 劉偉.國防科學(xué)技術(shù)大學(xué) 2007
[2]全球海量遙感影像數(shù)據(jù)的分布式管理技術(shù)研究[D]. 劉露.國防科學(xué)技術(shù)大學(xué) 2007
本文編號:3660023
本文鏈接:http://www.sikaile.net/kejilunwen/jisuanjikexuelunwen/3660023.html
最近更新
教材專著