發(fā)布時間：2017-09-12 11:32

  本文關鍵詞：面向Lustre文件系統(tǒng)的存儲系統(tǒng)模擬器的設計與實現

  更多相關文章： 存儲系統(tǒng) Lustre 模擬器

【摘要】：近年來,高性能計算機技術和應用技術飛速發(fā)展,在科學研究與國民經濟建設中正發(fā)揮著日益重要的作用。以國家超級計算天津中心為例,該中心使用的天河一號超級計算機(TH-1A),應用領域廣泛,主要應用領域包括石油勘探數據處理、生物醫(yī)藥研發(fā)、氣象氣候和海洋環(huán)境研究、航空航天飛行器研制、工程仿真等。TH-1A超級計算機在天津超算中心運行已4年多,實際運行表明:系統(tǒng)設計合理、綜合性能好,系統(tǒng)穩(wěn)定可靠,成功地完成了許多大規(guī)模、典型和復雜的計算任務。TH-1A采用Lustre文件系統(tǒng)作為存儲系統(tǒng),實踐表明,Lustre系統(tǒng)為TH-1A的存儲系統(tǒng)提供了良好的性能支撐,Lustre配置的靈活性使得TH-1A在面對不同應用時可以通過不同的配置參數實現應用性能的調優(yōu),特別是在超大規(guī)模的石油數據處理中的應用,獲得了較好的應用,對充分發(fā)揮TH-1A系統(tǒng)的整體應用性能起到了非常重要的作用。同時,隨著TH-1A應用服務范圍的不斷擴展,以及應用程序所處理的數據量的不斷增加,TH-1A存儲系統(tǒng)在海量數據存儲和處理上也表現出了一些問題。如某些I/O密集型應用要求存儲系統(tǒng)具有較快的讀寫速度,而Lustre文件系統(tǒng)易于在元數據存儲和處理上形成瓶頸,影響存儲系統(tǒng)整體的讀寫速度。另外,由于受限于內部高速互連網絡端口的數量,使得OST的數量難以大幅擴充,以大容量磁盤(如3TB或者更大容量)替換目前的1-2TB磁盤來擴大存儲系統(tǒng)的容量又會在磁盤失效時帶來過長的數據恢復時間,影響存儲系統(tǒng)的可維性,這兩個原因使得TH-1A的存儲系統(tǒng)在擴充存儲容量時遇到了困難。TH-1A作為目前先進的高性能計算機,在存儲系統(tǒng)方面表現出來的問題具有一定的代表性。在當前HPC TOP50的超級計算機,存儲系統(tǒng)多采用Lustre,在面對相同的應用情況時也會表現出與TH-1A相類似的技術問題。由于超級計算機的Lustre系統(tǒng)在數據密集型應用時表現出一些問題,同時,我們又在研制新一代的超級計算機,為了了解現有的存儲系統(tǒng)在各種典型的應用過程中出現不同問題的原因,研究解決問題和優(yōu)化性能的技術方法,并為研制新一代超級計算機的新型存儲系統(tǒng)提供研究和分析手段,有必要構建面向存儲系統(tǒng)的功能和性能的模擬器,對目標系統(tǒng)進行模擬,分析存儲系統(tǒng)的運行特性,研究分析存儲系統(tǒng)的各種設計參數,優(yōu)化現有存儲系統(tǒng),指導新的存儲系統(tǒng)的設計。本文設計并實現了一種基于Lustre存儲系統(tǒng)的存儲系統(tǒng)模擬器,主要進行了以下幾項研究工作:(1)研究目前典型I/O密集型應用對存儲系統(tǒng)的性能要求,結合Lustre文件系統(tǒng)的組成結構和I/O操作流程,分析Lustre文件系統(tǒng)在I/O密集型應用時可能表現的問題。(2)分析目前軟件模擬器設計的主要方法,提出了本文的Lustre系統(tǒng)模擬器的設計方法。(3)設計并實現了以Lustre文件系統(tǒng)為目標系統(tǒng)的存儲系統(tǒng)模擬器Lustre Sim,并通過與TH-1A超級計算機Lustre系統(tǒng)性能測試和逆時偏移抽道集應用程序運行的對比分析,驗證了其正確性與可用性。(4)研究了影響Lustre文件系統(tǒng)性能的關鍵因素,并提出了這些因素對性能影響的評估方案,在此基礎上設計了實驗,并使用Lustre Sim模擬器進行實驗,明確了這些因素對Lustre文件系統(tǒng)I/O性能的影響,提出Lustre文件系統(tǒng)的一些配置建議。
【關鍵詞】：存儲系統(tǒng) Lustre 模擬器
【學位授予單位】：國防科學技術大學
【學位級別】：碩士
【學位授予年份】：2014
【分類號】：TP333
【目錄】：

• 摘要9-11
• ABSTRACT11-13
• 第一章 緒論13-26
• 1.1 研究背景13-23
• 1.1.1 高性能計算機的發(fā)展情況13
• 1.1.2 超級計算機的基本組成13-14
• 1.1.3 高性能計算機存儲系統(tǒng)的基本結構14-16
• 1.1.4 典型的面向高性能計算機的集群文件系統(tǒng)16-20
• 1.1.5 高性能計算應用對高性能計算機存儲系統(tǒng)的主要技術要求20-21
• 1.1.6 高性能計算機存儲系統(tǒng)面臨的技術問題21-23
• 1.2 課題研究的意義23-24
• 1.3 課題內容和章節(jié)安排24-26
• 1.3.1 課題內容24-25
• 1.3.2 本文的組織25-26
• 第二章 模擬器技術分析和Lustre系統(tǒng)技術分析紹26-37
• 2.1 模擬器的設計方法26-28
• 2.1.1 系統(tǒng)模型模擬概述26-27
• 2.1.2 軟件模擬技術27
• 2.1.3 軟件模擬器的分類27-28
• 2.2 典型軟件模擬器28-30
• 2.2.1 OMNe T++28-29
• 2.2.2 NS229-30
• 2.2.3 Disk Sim30
• 2.3 Lustre文件系統(tǒng)30-37
• 2.3.1 Lustre體系結構31-32
• 2.3.2 Lustre文件系統(tǒng)I/O流程32-33
• 2.3.3 Lustre網絡通訊33-34
• 2.3.4 Lustre的可用性34
• 2.3.5 Lustre的數據存儲結構34-37
• 第三章 Lustre文件系統(tǒng)模擬器Lustre Sim的設計與實現37-60
• 3.1 模擬器的設計目標37-39
• 3.2 Lustre Sim模擬器的系統(tǒng)結構設計39-42
• 3.2.1 Lustre文件系統(tǒng)的總體模塊組成39-40
• 3.2.2 Lustre Sim模擬器系統(tǒng)結構40-41
• 3.2.3 模擬器各模塊可擴展性41-42
• 3.3 模擬器的核心模塊設計42-55
• 3.3.1 RAID磁盤陣列模塊42-43
• 3.3.2 MDS模塊43-48
• 3.3.3 OSS模塊48-51
• 3.3.4 Client模塊51-55
• 3.4 模擬器的I/O流程55-56
• 3.5 模擬器的正確性驗證56-60
• 3.5.1 全系統(tǒng)IOR測試56-57
• 3.5.2 來自石油勘探逆時偏移抽道集程序trace的模擬結果57-60
• 第四章 Lustre文件系統(tǒng)性能研究60-72
• 4.1 分布式文件系統(tǒng)性能的影響因素60-62
• 4.1.1 元數據服務器相關的性能因素60
• 4.1.2 文件數據服務器相關的性能因素60-61
• 4.1.3 客戶端/應用相關的性能因素61
• 4.1.4 網絡相關的性能因素61-62
• 4.2 Lustre關鍵性能因素詳細分析62-65
• 4.2.1 條帶化配置參數62-63
• 4.2.2 讀/寫緩存效應63-64
• 4.2.3 服務進程數量64-65
• 4.3 使用Lustre Sim評估Lustre性能65-72
• 4.3.1 Lustre性能評估方案65-66
• 4.3.2 性能評估實驗設計66
• 4.3.3 性能評估結果66-71
• 4.3.4 Lustre文件系統(tǒng)配置建議71-72
• 第五章 總結和展望72-74
• 5.1 工作總結72
• 5.2 下一步工作展望72-74
• 致謝74-75
• 參考文獻75-80
• 作者在學期間取得的學術成果80

【相似文獻】

中國期刊全文數據庫 前10條

1 李紅;藍光存儲系統(tǒng) 光盤容量高達23G[J];信息記錄材料;2004年01期

2 ;存儲系統(tǒng) 金融行業(yè)應用卓越獎 醫(yī)療行業(yè)應用卓越獎[J];每周電腦報;2004年20期

3 諾拉;EMC Symmetrix DMX-3存儲系統(tǒng) 超大容量 高速存取[J];中國計算機用戶;2005年31期

4 謝世誠;;浪潮推出4Gb光纖存儲系統(tǒng)[J];微型機與應用;2006年07期

5 ;昆騰分級存儲系統(tǒng)[J];軟件世界;2009年11期

6 ;超低功耗云存儲系統(tǒng)或被地方政府看好[J];中國有線電視;2013年08期

7 湯赫男;;云存儲系統(tǒng)的分析與應用研究[J];計算機光盤軟件與應用;2013年24期

8 諶偉;;云存儲系統(tǒng)的分析與應用探討[J];數字技術與應用;2013年10期

9 雅君;跟上企業(yè)的匆匆腳步——利用HP SureStoreEXP256構筑企業(yè)存儲系統(tǒng)[J];中國計算機用戶;2000年08期

10 賈莉;;Symmetrix8000實現19TB存儲[J];每周電腦報;2000年18期

中國重要會議論文全文數據庫 前10條

1 趙志剛;;存儲系統(tǒng)在企業(yè)信息化中的應用[A];2005年安徽通信論文集[C];2006年

2 黃曉峰;張杰;;礦井信息中心存儲系統(tǒng)設計[A];安全高效礦井機電裝備及信息化技術——陜西省煤炭學會學術年會論文集（2011）[C];2011年

3 孫哲;李昌銀;;構建核電高可用云存儲系統(tǒng)[A];2012電力行業(yè)信息化年會優(yōu)秀論文專輯[C];2012年

4 焦超;周天彤;李祥學;李建華;;面向災備的高性能可信存儲系統(tǒng)設計[A];第十一屆保密通信與信息安全現狀研討會論文集[C];2009年

5 汪位龍;;設計院存儲系統(tǒng)建設初探[A];中國公路學會計算機應用分會2004年年會學術論文集[C];2004年

6 梅松竹;李宗伯;;Storage 7000系列混合存儲系統(tǒng)分析[A];2009年中國高校通信類院系學術研討會論文集[C];2009年

7 王克敏;張璽;胡江凱;王毅濤;;NWP資料歸檔方法及其存儲系統(tǒng)的應用[A];中國氣象學會2006年年會“中尺度天氣動力學、數值模擬和預測”分會場論文集[C];2006年

8 孫哲;李昌銀;;DeDu:基于云計算的冗余刪除存儲系統(tǒng)[A];電力行業(yè)新一代信息技術研討會論文集[C];2011年

9 高小伍;黨齊民;林晨;;校園網存儲系統(tǒng)的研究與實現[A];中國高等教育學會教育信息化分會第十次學術年會論文集[C];2010年

10 宮海林;郭長國;苑洪亮;王懷民;;支持事務的非結構化數據聚合存儲系統(tǒng)GSL[A];2006年全國開放式分布與并行計算機學術會議論文集（三）[C];2006年

中國重要報紙全文數據庫 前10條

1 ;第三季度中國存儲系統(tǒng)市場達19.1億元[N];中國高新技術產業(yè)導報;2005年

2 本報記者 薛斐;服務：存儲系統(tǒng)的靈魂[N];計算機世界;2002年

3 單群一;惠普推出全新一體化存儲系統(tǒng)[N];中國稅務報;2007年

4 ;浪潮推出4Gb光纖存儲系統(tǒng)[N];人民郵電;2006年

5 ;今年第二季度 存儲系統(tǒng)市場價值達12.6億元[N];人民郵電;2006年

6 郭;日立推出普及型存儲系統(tǒng)[N];計算機世界;2007年

7 陳耀光;朗登 扛起存儲系統(tǒng)設計院的大旗[N];中國企業(yè)報;2001年

8 ;富士通存儲系統(tǒng)全面升級[N];網絡世界;2009年

9 ;EMC亞洲生產制造中心落戶深圳[N];網絡世界;2009年

10 臨履;存儲系統(tǒng)有了“設計院”[N];網絡世界;2001年

中國博士學位論文全文數據庫 前10條

1 趙雨虹;云存儲系統(tǒng)資源調度技術研究[D];華中科技大學;2015年

2 王福偉;列存儲系統(tǒng)的數據安全與網絡性能優(yōu)化模型研究[D];燕山大學;2016年

3 張菁;大規(guī)模分布式糾刪碼存儲系統(tǒng)中的高效數據傳輸技術研究[D];國防科學技術大學;2015年

4 沈志榮;糾刪碼存儲系統(tǒng)性能優(yōu)化研究[D];清華大學;2015年

5 陸承濤;存儲系統(tǒng)性能管理問題的研究[D];華中科技大學;2010年

6 聶雪軍;內容感知存儲系統(tǒng)中信息信息生命周期管理關鍵技術研究[D];華中科技大學;2011年

7 羅東健;大規(guī)模存儲系統(tǒng)高可靠性關鍵技術研究[D];華中科技大學;2011年

8 聶雪軍;內容感知存儲系統(tǒng)中信息生命周期管理關鍵技術研究[D];華中科技大學;2010年

9 王鵬;低密度奇偶校驗碼應用于存儲系統(tǒng)的關鍵技術研究[D];華中科技大學;2013年

10 刁瑩;用數學建模方法評價存儲系統(tǒng)性能[D];哈爾濱工程大學;2013年

中國碩士學位論文全文數據庫 前10條

1 馮漢超;基于Hadoop的分布式副本策略研究[D];河北工程大學;2015年

2 俞新杰;跨數據中心容錯的云存儲系統(tǒng)[D];浙江大學;2016年

3 王振升;可重構堆疊存儲系統(tǒng)的設計及實現研究[D];太原理工大學;2016年

4 王海群;面向數字社區(qū)的云存儲系統(tǒng)的研究與實現[D];中國海洋大學;2015年

5 范海震;基于Linux的MPEG-4圖像壓縮存儲系統(tǒng)[D];西安電子科技大學;2008年

6 陳運海;編碼容錯的云存儲系統(tǒng)與性能優(yōu)化[D];南京大學;2013年

7 盧義婉;基于網絡編碼的云存儲系統(tǒng)中負載均衡技術研究[D];南京大學;2013年

8 王謙;云存儲系統(tǒng)基于屬性的數據訪問控制研究[D];江蘇大學;2016年

9 蔡京津;基于Orleans的塊存儲系統(tǒng)的設計與實現[D];吉林大學;2016年

10 王丹丹;數字射頻存儲系統(tǒng)中高速DAC電路的設計與實現[D];燕山大學;2016年

，

本文編號：836973