面向多層存儲架構(gòu)的I/O優(yōu)化技術(shù)研究
發(fā)布時間:2021-04-12 16:47
隨著高性能計算技術(shù)的快速發(fā)展,I/O密集型應(yīng)用對高性能計算機的存儲子系統(tǒng)的容量、性能、可擴展性和可靠性等方面提出了越來越高的要求,在大數(shù)據(jù)時代下,海量數(shù)據(jù)的快速分析處理也需要優(yōu)秀的存儲系統(tǒng)作為支撐。存儲子系統(tǒng)作為高性能計算機系統(tǒng)的關(guān)鍵組成部分,其I/O性能和系統(tǒng)計算性能的不匹配已經(jīng)成為阻礙系統(tǒng)整體性能提升的重要瓶頸。磁盤作為目前主流的存儲設(shè)備,其性能提升速度遠遠落后于CPU等計算設(shè)備的性能提升速度,面對這一事實,現(xiàn)有存儲架構(gòu)的性能可提升空間有限。多層存儲架構(gòu)的靈感來自于單機環(huán)境下的存儲層次結(jié)構(gòu),為高性能計算機的計算節(jié)點增加存儲設(shè)備組成本地存儲,將原有的存儲子系統(tǒng)作為全局存儲,兩者組成多層結(jié)構(gòu),充分發(fā)揮各種類型存儲資源的優(yōu)勢,是未來高性能計算機存儲系統(tǒng)的發(fā)展方向。本文面向多層存儲架構(gòu),對其I/O優(yōu)化技術(shù)進行了研究,主要工作如下:1、對多層存儲架構(gòu)的運行模式進行了研究。多層存儲架構(gòu)相比傳統(tǒng)的單層存儲架構(gòu)有著更大的性能提升空間,本文分析了目前多層存儲架構(gòu)中使用的I/O調(diào)度和容錯方法,指出了其中存在的問題和對其進行優(yōu)化的方向。2、設(shè)計實現(xiàn)了一種基于節(jié)點I/O繁忙度的I/O調(diào)度方法。在多層存儲架...
【文章來源】:國防科技大學(xué)湖南省 211工程院校 985工程院校
【文章頁數(shù)】:70 頁
【學(xué)位級別】:碩士
【文章目錄】:
摘要
ABSTRACT
第一章 緒論
1.1 研究背景
1.1.1 高性能計算技術(shù)的快速發(fā)展
1.1.2 存儲系統(tǒng)對高性能計算機性能的影響
1.1.3 高性能計算機I/O系統(tǒng)面臨的突出挑戰(zhàn)
1.2 多層存儲架構(gòu)
1.2.1 當前單層存儲架構(gòu)的局限
1.2.2 計算機中存儲器的層次結(jié)構(gòu)
1.2.3 多層存儲系統(tǒng)組成結(jié)構(gòu)
1.2.4 多層存儲系統(tǒng)中亟待解決的關(guān)鍵問題
1.3 本文工作
1.4 本文結(jié)構(gòu)
第二章 層次式文件系統(tǒng)
2.1 層次式文件系統(tǒng)結(jié)構(gòu)
2.1.1 多層存儲資源管理框架
2.1.2 系統(tǒng)融合管理模塊
2.2 層次式文件系統(tǒng)的I/O調(diào)度方法
2.2.1 I/O調(diào)度對I/O性能的影響
2.2.2 常見的I/O調(diào)度器
2.3 層次式文件系統(tǒng)的I/O容錯方法
2.3.1 非運行時容錯
2.3.2 運行時容錯
2.4 本章小結(jié)
第三章 基于節(jié)點I/O繁忙度的I/O調(diào)度方法
3.1 I/O繁忙度的定義
3.2 層次式的I/O繁忙度獲取及維護策略
3.3 分布協(xié)同的運行時I/O調(diào)度算法
3.4 本章小結(jié)
第四章 基于分層協(xié)同的I/O容錯方法
4.1 I/O容錯代理層的構(gòu)建方法
4.2 面向“磁盤滿”異常的I/O容錯方法設(shè)計
4.2.1 本地存儲空間的“磁盤滿”異常
4.2.2 面向“磁盤滿”異常的I/O容錯過程
4.3 面向多副本讀異常的I/O容錯方法設(shè)計
4.3.1 多副本讀異常
4.3.2 面向多副本讀異常的I/O容錯過程
4.4 本章小結(jié)
第五章 系統(tǒng)實現(xiàn)與性能測試
5.1 系統(tǒng)實現(xiàn)
5.1.1 基于節(jié)點I/O繁忙度的I/O調(diào)度方法的實現(xiàn)
5.1.2 基于分層協(xié)同I/O容錯方法的實現(xiàn)
5.2 性能測試
5.2.1 調(diào)度性能測試
5.2.2 容錯能力測試
5.3 本章小結(jié)
第六章 結(jié)論與展望
6.1 研究工作總結(jié)
6.2 工作展望
致謝
參考文獻
作者在學(xué)期間取得的學(xué)術(shù)成果
【參考文獻】:
博士論文
[1]大規(guī)模Lustre集群文件系統(tǒng)關(guān)鍵技術(shù)的研究[D]. 錢迎進.國防科學(xué)技術(shù)大學(xué) 2011
[2]大規(guī)模分布式存儲技術(shù)研究[D]. 魏青松.電子科技大學(xué) 2004
[3]分布式文件系統(tǒng)高可用問題研究[D]. 史小冬.中國科學(xué)院研究生院(計算技術(shù)研究所) 2002
本文編號:3133629
【文章來源】:國防科技大學(xué)湖南省 211工程院校 985工程院校
【文章頁數(shù)】:70 頁
【學(xué)位級別】:碩士
【文章目錄】:
摘要
ABSTRACT
第一章 緒論
1.1 研究背景
1.1.1 高性能計算技術(shù)的快速發(fā)展
1.1.2 存儲系統(tǒng)對高性能計算機性能的影響
1.1.3 高性能計算機I/O系統(tǒng)面臨的突出挑戰(zhàn)
1.2 多層存儲架構(gòu)
1.2.1 當前單層存儲架構(gòu)的局限
1.2.2 計算機中存儲器的層次結(jié)構(gòu)
1.2.3 多層存儲系統(tǒng)組成結(jié)構(gòu)
1.2.4 多層存儲系統(tǒng)中亟待解決的關(guān)鍵問題
1.3 本文工作
1.4 本文結(jié)構(gòu)
第二章 層次式文件系統(tǒng)
2.1 層次式文件系統(tǒng)結(jié)構(gòu)
2.1.1 多層存儲資源管理框架
2.1.2 系統(tǒng)融合管理模塊
2.2 層次式文件系統(tǒng)的I/O調(diào)度方法
2.2.1 I/O調(diào)度對I/O性能的影響
2.2.2 常見的I/O調(diào)度器
2.3 層次式文件系統(tǒng)的I/O容錯方法
2.3.1 非運行時容錯
2.3.2 運行時容錯
2.4 本章小結(jié)
第三章 基于節(jié)點I/O繁忙度的I/O調(diào)度方法
3.1 I/O繁忙度的定義
3.2 層次式的I/O繁忙度獲取及維護策略
3.3 分布協(xié)同的運行時I/O調(diào)度算法
3.4 本章小結(jié)
第四章 基于分層協(xié)同的I/O容錯方法
4.1 I/O容錯代理層的構(gòu)建方法
4.2 面向“磁盤滿”異常的I/O容錯方法設(shè)計
4.2.1 本地存儲空間的“磁盤滿”異常
4.2.2 面向“磁盤滿”異常的I/O容錯過程
4.3 面向多副本讀異常的I/O容錯方法設(shè)計
4.3.1 多副本讀異常
4.3.2 面向多副本讀異常的I/O容錯過程
4.4 本章小結(jié)
第五章 系統(tǒng)實現(xiàn)與性能測試
5.1 系統(tǒng)實現(xiàn)
5.1.1 基于節(jié)點I/O繁忙度的I/O調(diào)度方法的實現(xiàn)
5.1.2 基于分層協(xié)同I/O容錯方法的實現(xiàn)
5.2 性能測試
5.2.1 調(diào)度性能測試
5.2.2 容錯能力測試
5.3 本章小結(jié)
第六章 結(jié)論與展望
6.1 研究工作總結(jié)
6.2 工作展望
致謝
參考文獻
作者在學(xué)期間取得的學(xué)術(shù)成果
【參考文獻】:
博士論文
[1]大規(guī)模Lustre集群文件系統(tǒng)關(guān)鍵技術(shù)的研究[D]. 錢迎進.國防科學(xué)技術(shù)大學(xué) 2011
[2]大規(guī)模分布式存儲技術(shù)研究[D]. 魏青松.電子科技大學(xué) 2004
[3]分布式文件系統(tǒng)高可用問題研究[D]. 史小冬.中國科學(xué)院研究生院(計算技術(shù)研究所) 2002
本文編號:3133629
本文鏈接:http://www.sikaile.net/kejilunwen/jisuanjikexuelunwen/3133629.html
最近更新
教材專著