云計算環(huán)境下多源異構(gòu)遙感大數(shù)據(jù)管理關(guān)鍵技術(shù)研究
發(fā)布時間:2020-07-07 01:31
【摘要】:隨著遙感衛(wèi)星技術(shù)的不斷發(fā)展,一方面造成了遙感衛(wèi)星傳感器、遙感數(shù)據(jù)類型的不斷增加,另一方面也導(dǎo)致了遙感數(shù)據(jù)體量的急劇增長,這給遙感數(shù)據(jù)的管理、存儲與組織帶來了巨大的挑戰(zhàn),與此同時,由于遙感數(shù)據(jù)本身所具有的時空等多維度特征,越來越多的遙感應(yīng)用開始關(guān)注于利用遙感數(shù)據(jù)集的時間等維度進行分析與處理,而在現(xiàn)有的多衛(wèi)星數(shù)據(jù)中心云計算環(huán)境下,數(shù)據(jù)的獲取、分享與時序數(shù)據(jù)組織分析效率低下。因此如何進行云計算環(huán)境下的多源遙感大數(shù)據(jù)管理,從而為用戶提供對于時空數(shù)據(jù)集的高效的按需獲取、數(shù)據(jù)共享、時序數(shù)據(jù)組織等服務(wù),是當(dāng)前遙感數(shù)據(jù)管理領(lǐng)域亟需解決的重要問題。針對以上問題,本文依托于“863項目—星機地綜合定量遙感系統(tǒng)與應(yīng)用示范(二期)”項目,利用云計算的海量數(shù)據(jù)存儲、虛擬化、彈性擴展、按需服務(wù)等優(yōu)點,針對多源異構(gòu)大數(shù)據(jù)的數(shù)據(jù)量大、數(shù)據(jù)組織困難、數(shù)據(jù)服務(wù)低效等特點,重點研究了云計算環(huán)境下針對遙感數(shù)據(jù)分析應(yīng)用用戶的多源遙感數(shù)據(jù)的存儲、組織、數(shù)據(jù)按需訂閱、數(shù)據(jù)共享等服務(wù)的具體實現(xiàn)以及在此基礎(chǔ)上的數(shù)據(jù)立方體分析環(huán)境的構(gòu)建。主要包括以下幾點:(1)對于來自不同數(shù)據(jù)源的異構(gòu)遙感數(shù)據(jù),通過引入地理信息元數(shù)據(jù)標(biāo)準(zhǔn)建立元數(shù)據(jù)映射模板,實現(xiàn)多源遙感數(shù)據(jù)的統(tǒng)一格式轉(zhuǎn)換,并在此基礎(chǔ)上實現(xiàn)對于遙感數(shù)據(jù)的統(tǒng)一檢索。另外按照歸檔數(shù)據(jù)以及計算分析數(shù)據(jù)的不同特點,為遙感影像數(shù)據(jù)的存儲采取不同的組織方式。(2)針對遙感數(shù)據(jù)的按需獲取與數(shù)據(jù)共享服務(wù),本文在OpenStack-Swift對象存儲的基礎(chǔ)上,首先提出了基于對象文件的虛擬目錄設(shè)計方案,為用戶提供了類似于文件系統(tǒng)的可以進行層級目錄管理的云空間,然后提出了虛擬映射與虛擬視圖的概念,通過共享數(shù)據(jù)存儲與虛擬視圖組織來為用戶提供高效的時空數(shù)據(jù)訂閱與數(shù)據(jù)共享服務(wù)。(3)針對多維遙感數(shù)據(jù)的數(shù)據(jù)處理與分析,本文結(jié)合Open Data Cube數(shù)據(jù)立方體技術(shù),利用云存儲中的組織好的Landsat、Modis、GF等時空數(shù)據(jù)集,為用戶提供了基于內(nèi)存的多維數(shù)據(jù)模型構(gòu)建與時序數(shù)據(jù)分析環(huán)境,并通過NDVI以及水體檢測算法為例進行了驗證。通過開展以上研究,本文實現(xiàn)了對于異構(gòu)多源遙感數(shù)據(jù)的統(tǒng)一管理,并在此基礎(chǔ)上,為遙感云平臺中的數(shù)據(jù)分析用戶提供了云空間數(shù)據(jù)組織、時空數(shù)據(jù)訂閱、數(shù)據(jù)共享等服務(wù),并通過數(shù)據(jù)立方體為用戶構(gòu)建了時序數(shù)據(jù)的分析環(huán)境,為用戶針對多源異構(gòu)數(shù)據(jù)的統(tǒng)一檢索、組織、訂閱共享以及分析處理提供了系統(tǒng)而完整的解決方案。本文的創(chuàng)新點在于通過參考元數(shù)據(jù)相關(guān)標(biāo)準(zhǔn)構(gòu)建了統(tǒng)一元數(shù)據(jù)模型從而實現(xiàn)了對于多源異構(gòu)遙感數(shù)據(jù)組織及數(shù)據(jù)檢索服務(wù)。通過對于云存儲以及虛擬映射組織的研究,實現(xiàn)了面向多用戶的時空數(shù)據(jù)集訂閱及共享服務(wù),有效避免了數(shù)據(jù)共享時候的數(shù)據(jù)傳輸與重復(fù)組織,保證用戶能夠高效而便捷的獲取到所需的數(shù)據(jù)。
【學(xué)位授予單位】:中國科學(xué)院大學(xué)(中國科學(xué)院遙感與數(shù)字地球研究所)
【學(xué)位級別】:碩士
【學(xué)位授予年份】:2018
【分類號】:P237
【圖文】:
圖 2.1 多維時空數(shù)組分析模式E Data Cube 實現(xiàn)了對于多維遙感時空數(shù)據(jù)集的數(shù)據(jù)模型表征以及時空序列分析而對于歸檔的遙感影像數(shù)據(jù)需要將其先轉(zhuǎn)化為多維數(shù)組的格式導(dǎo)入數(shù)據(jù)庫中進這極大的增加了海量數(shù)據(jù)歸檔時的時間開銷以及存儲開銷,另外對于多源遙感的異構(gòu)性問題,INPE Data Cube 并沒有給出較好的易擴展的數(shù)據(jù)管理方案。2) AGDCstralian Geoscience Data Cube(AGDC)是澳大利亞地球科學(xué)中心研發(fā)的一套針感時空數(shù)據(jù)的歸檔以及分析的數(shù)據(jù)立方體系統(tǒng),支持多種多源異構(gòu)的遙感數(shù)據(jù)有較強的可擴展性[53]。其底層利用文件存儲的格式來管理遙感影像數(shù)據(jù),通過據(jù)庫來管理遙感元數(shù)據(jù)。對于多維數(shù)據(jù)模型的構(gòu)建,AGDC 沒有使用在物理存多維數(shù)據(jù)模型的方案,而是利用元數(shù)據(jù)庫來組織管理遙感影像數(shù)據(jù)文件,先通像文件的數(shù)據(jù)鏈接以及元數(shù)據(jù)信息構(gòu)成一個邏輯上的多維數(shù)據(jù)模型,之后將所件讀入內(nèi)存中構(gòu)建為基于多維數(shù)組的時空多維數(shù)據(jù)模型,其中的維度包括數(shù)據(jù)間,空間,波段,分辨率等,這使得該時空數(shù)據(jù)模型在數(shù)據(jù)抽取和計算上十分
圖 2.2 AGDC 架構(gòu)設(shè)計采用元數(shù)據(jù)來組織管理歸檔的遙感影像數(shù)據(jù),AGDC 具有良好的可擴展性,遙感影像數(shù)據(jù),無需對影像數(shù)據(jù)本身進行格式轉(zhuǎn)化,只需將元數(shù)據(jù)提取并歸即可。另一方面,AGDC 團隊對外提供了開源版本的數(shù)據(jù)立方體 OpenDataC得到了許多國際組織與研究機構(gòu)的支持與合作,例如地球觀測衛(wèi)星委員會(C上構(gòu)建了自己的數(shù)據(jù)立方體數(shù)據(jù)管理與分析系統(tǒng)。OpenDataCube 目前仍然改進中,下一步的計劃是利用 AmazonS3 提供的云存儲以及計算資源建立數(shù)析平臺,為全球用戶提供便捷的大規(guī)模多維時空數(shù)據(jù)分析服務(wù)。章小結(jié)首先簡述了隨著遙感技術(shù)發(fā)展多源遙感數(shù)據(jù)管理所面臨的諸多問題,在論述據(jù)組織與存儲的幾種主要方案的基礎(chǔ)上,首先說明了目前常用的多源異構(gòu)遙理方法;然后綜合分析了目前對于多源遙感數(shù)據(jù)的時空數(shù)據(jù)集組織與共享的其所面臨的若干問題與不足;最后分析了多維遙感數(shù)據(jù)時空序列分析的應(yīng)用
第三章 基于元數(shù)據(jù)模板映射的多源遙感數(shù)據(jù)統(tǒng)一組織型,GLTS(ClobalLogicalTileScheme)格網(wǎng)模型[60],在 UTM 投影(Unercator Projection)下按照2 × 2 +1的全球經(jīng)緯度網(wǎng)格進行劃分。其中初網(wǎng)格,然后每個網(wǎng)格cell在通過四叉樹劃分得到子單元,形成更低的一級格。其中每個網(wǎng)格可以通過格網(wǎng)的行列號來獲取。
本文編號:2744440
【學(xué)位授予單位】:中國科學(xué)院大學(xué)(中國科學(xué)院遙感與數(shù)字地球研究所)
【學(xué)位級別】:碩士
【學(xué)位授予年份】:2018
【分類號】:P237
【圖文】:
圖 2.1 多維時空數(shù)組分析模式E Data Cube 實現(xiàn)了對于多維遙感時空數(shù)據(jù)集的數(shù)據(jù)模型表征以及時空序列分析而對于歸檔的遙感影像數(shù)據(jù)需要將其先轉(zhuǎn)化為多維數(shù)組的格式導(dǎo)入數(shù)據(jù)庫中進這極大的增加了海量數(shù)據(jù)歸檔時的時間開銷以及存儲開銷,另外對于多源遙感的異構(gòu)性問題,INPE Data Cube 并沒有給出較好的易擴展的數(shù)據(jù)管理方案。2) AGDCstralian Geoscience Data Cube(AGDC)是澳大利亞地球科學(xué)中心研發(fā)的一套針感時空數(shù)據(jù)的歸檔以及分析的數(shù)據(jù)立方體系統(tǒng),支持多種多源異構(gòu)的遙感數(shù)據(jù)有較強的可擴展性[53]。其底層利用文件存儲的格式來管理遙感影像數(shù)據(jù),通過據(jù)庫來管理遙感元數(shù)據(jù)。對于多維數(shù)據(jù)模型的構(gòu)建,AGDC 沒有使用在物理存多維數(shù)據(jù)模型的方案,而是利用元數(shù)據(jù)庫來組織管理遙感影像數(shù)據(jù)文件,先通像文件的數(shù)據(jù)鏈接以及元數(shù)據(jù)信息構(gòu)成一個邏輯上的多維數(shù)據(jù)模型,之后將所件讀入內(nèi)存中構(gòu)建為基于多維數(shù)組的時空多維數(shù)據(jù)模型,其中的維度包括數(shù)據(jù)間,空間,波段,分辨率等,這使得該時空數(shù)據(jù)模型在數(shù)據(jù)抽取和計算上十分
圖 2.2 AGDC 架構(gòu)設(shè)計采用元數(shù)據(jù)來組織管理歸檔的遙感影像數(shù)據(jù),AGDC 具有良好的可擴展性,遙感影像數(shù)據(jù),無需對影像數(shù)據(jù)本身進行格式轉(zhuǎn)化,只需將元數(shù)據(jù)提取并歸即可。另一方面,AGDC 團隊對外提供了開源版本的數(shù)據(jù)立方體 OpenDataC得到了許多國際組織與研究機構(gòu)的支持與合作,例如地球觀測衛(wèi)星委員會(C上構(gòu)建了自己的數(shù)據(jù)立方體數(shù)據(jù)管理與分析系統(tǒng)。OpenDataCube 目前仍然改進中,下一步的計劃是利用 AmazonS3 提供的云存儲以及計算資源建立數(shù)析平臺,為全球用戶提供便捷的大規(guī)模多維時空數(shù)據(jù)分析服務(wù)。章小結(jié)首先簡述了隨著遙感技術(shù)發(fā)展多源遙感數(shù)據(jù)管理所面臨的諸多問題,在論述據(jù)組織與存儲的幾種主要方案的基礎(chǔ)上,首先說明了目前常用的多源異構(gòu)遙理方法;然后綜合分析了目前對于多源遙感數(shù)據(jù)的時空數(shù)據(jù)集組織與共享的其所面臨的若干問題與不足;最后分析了多維遙感數(shù)據(jù)時空序列分析的應(yīng)用
第三章 基于元數(shù)據(jù)模板映射的多源遙感數(shù)據(jù)統(tǒng)一組織型,GLTS(ClobalLogicalTileScheme)格網(wǎng)模型[60],在 UTM 投影(Unercator Projection)下按照2 × 2 +1的全球經(jīng)緯度網(wǎng)格進行劃分。其中初網(wǎng)格,然后每個網(wǎng)格cell在通過四叉樹劃分得到子單元,形成更低的一級格。其中每個網(wǎng)格可以通過格網(wǎng)的行列號來獲取。
【參考文獻】
相關(guān)期刊論文 前7條
1 吳炳方;邢強;;遙感的科學(xué)推動作用與重點應(yīng)用領(lǐng)域[J];地球科學(xué)進展;2015年07期
2 徐保民;倪旭光;;云計算發(fā)展態(tài)勢與關(guān)鍵技術(shù)進展[J];中國科學(xué)院院刊;2015年02期
3 宋維靜;劉鵬;王力哲;呂科;;遙感大數(shù)據(jù)的智能處理:現(xiàn)狀與挑戰(zhàn)[J];工程研究-跨學(xué)科視野中的工程;2014年03期
4 李加林;曹羅丹;浦瑞良;;洪澇災(zāi)害遙感監(jiān)測評估研究綜述[J];水利學(xué)報;2014年03期
5 陳全;鄧倩妮;;云計算及其關(guān)鍵技術(shù)[J];計算機應(yīng)用;2009年09期
6 艾海濱,孟令奎,林志勇;基于XML的分布式異構(gòu)地理數(shù)據(jù)集成與共享[J];遙感信息;2002年04期
7 駱劍承,周成虎,梁怡,裴韜;時空數(shù)據(jù)智能化處理與分析的理論和方法探討[J];中國圖象圖形學(xué)報;2001年09期
本文編號:2744440
本文鏈接:http://www.sikaile.net/kejilunwen/dizhicehuilunwen/2744440.html
最近更新
教材專著