QoS保證的數據中心動態(tài)資源供應方法
發(fā)布時間:2020-04-29 03:01
【摘要】:在滿足應用QoS的前提下,提高系統的資源利用率,是數據中心資源管理的一個難點,原因在于應用的資源消耗是動態(tài)變化的.為了保證應用的QoS,需要實時預測應用的資源需求,并以此為基礎動態(tài)按需供應資源.已有的資源預測算法可以分為兩類:一類需要與應用進行實時交互以監(jiān)測負載和性能,預測精度高,但擴展性差;另一類只需要在外部監(jiān)測應用的資源消耗,擴展性好,但是現有算法的預測精度較低.該文針對第二類方法的不足,結合全局及局部的資源消耗變化趨勢來改進已有的預測算法.實驗證明改進后的預測精確度可以達到95%以上.資源需求的動態(tài)變化會導致節(jié)點資源無法滿足所有應用的QoS,常用的解決方法是采用虛擬機遷移進行負載平衡,但是遷移虛擬機會帶來相當大的額外資源消耗.該文提出了一種作業(yè)資源匹配算法,對數據中心所有作業(yè)進行布局,使不同優(yōu)先級、不同資源需求及變化規(guī)律的作業(yè)在節(jié)點上混合部署,不僅極大地降低了發(fā)生節(jié)點資源緊缺的頻度,而且實驗證明,該算法在相同的資源需求下,還能提高應用的性能.
【圖文】:
密集、網絡密集等.并且,應用的資源需求還隨著時間動態(tài)變化,尤其是在線網絡應用.如圖1所示為某互聯網公司一臺運行某在線游戲的4核節(jié)點連續(xù)24小時CPU負載的變化情況,波峰時的資源消耗為波谷時的數倍.為了節(jié)省軟硬件成本,提高系統資源利用率,數據中心需要合理地調度各類作業(yè)并為其分配資源,使得系統資源有序復用,達到負載平衡.然而,應用對資源需求的多樣性和動態(tài)性給資源管理帶來了挑戰(zhàn):既要滿足各個應用的服務質量(QoS),又要提高系統的資源利用率.圖1CPU負載變化圖應對這個挑戰(zhàn)的難點之一是如何準確實時地預測應用的資源需求,從而動態(tài)地為應用供應資源.目前已有的預測技術根據輸入可以分為兩類:一類是根據應用當前的負載、性能和資源消耗來預測下一個時間周期的資源需求,由于應用的性能指標和負載的類型具有多樣性,這類方法需要為每種應用設計不同的監(jiān)控模塊,而且要與應用進行交互以獲得應用的當前性能及負載.因而,這類方法的一個顯著不足就是通用性和擴展性差.另一類僅僅依據外圍監(jiān)測的資源消耗來預測,,已有預測機制有:線性增加、指數下降,大幅增加、小幅下降,服務分級等,這類方法的優(yōu)點是簡單實用,不足是預測機制太簡單導致預測精度不高.本文針對第二類方法的不足,結合全局及局部的資源消耗變化趨勢進行改進.應對這個挑戰(zhàn)的難點之二是如何有效地動態(tài)供應資源.數據中心資源管理的目的是整合服務、平衡負載、充分利用資源,不僅需要提高單臺節(jié)點的資源利用率,還需要平衡整個數據中心的負載.資源需求的動態(tài)變化會導致節(jié)點資源無法滿足所有應用的QoS,造成節(jié)點負載不均衡.常用的解決方法是通
租相同的資源,獲得最大的利潤).文獻[23]的全局資源管理器的計算原則是取得最優(yōu)的應用性能.本文也采用兩層的資源管理框架:全局資源管理器在下發(fā)作業(yè)時,結合作業(yè)的優(yōu)先級、資源需求以及資源消耗變化規(guī)律等屬性特征和數據中心資源負載的分布狀況,為作業(yè)選擇合適的節(jié)點,混合部署作業(yè),以減少同類資源競爭,避免節(jié)點負載過重,實現無需進行虛擬機遷移就能達到數據中心負載平衡的目的;局部資源管理器動態(tài)預測各個應用的資源需求,調整節(jié)點上各個容器的資源配置,保證高優(yōu)先級應用的服務質量.圖2作業(yè)資源管理架構3基于LinuxContainer的資源管理框架基于容器的資源管理系統架構如圖2所示.用戶通過客戶端提交作業(yè).中央管理器是系統的核心,包含作業(yè)調度器和全局資源管理器兩個組件,主要職責是為作業(yè)尋找合適的執(zhí)行節(jié)點.為了增強可靠性,一個數據中心至少配置兩個中央管理器,通過ZooKeeper①的領導者(Leader)選舉保證只有一個處于活躍狀態(tài).系統中除了中央管理器以及運行Zookeeper的節(jié)點以外,其余所有節(jié)點都是執(zhí)行節(jié)點.每臺執(zhí)行節(jié)點上都運行一個局部資源管理器,接收中央管理器下發(fā)的任務(一個作業(yè)包含若干個任務),并為每個任務創(chuàng)建一臺輕量級的虛擬機(LinuxContainer).數據中心中的所有節(jié)點共享一個分布式文件系統.用戶通過瀏覽器可以查詢作業(yè)調度器中的作業(yè)所處的狀態(tài)(等待下發(fā)、已下發(fā)、正在執(zhí)行、執(zhí)行出錯)、各個節(jié)點的資源使用狀況及節(jié)點上運行的作業(yè)信息.作業(yè)調度器接收用戶提交的作業(yè),按照優(yōu)先級排序,每次選擇優(yōu)先級最高的作業(yè),向全局資源管理器申請資
本文編號:2644151
【圖文】:
密集、網絡密集等.并且,應用的資源需求還隨著時間動態(tài)變化,尤其是在線網絡應用.如圖1所示為某互聯網公司一臺運行某在線游戲的4核節(jié)點連續(xù)24小時CPU負載的變化情況,波峰時的資源消耗為波谷時的數倍.為了節(jié)省軟硬件成本,提高系統資源利用率,數據中心需要合理地調度各類作業(yè)并為其分配資源,使得系統資源有序復用,達到負載平衡.然而,應用對資源需求的多樣性和動態(tài)性給資源管理帶來了挑戰(zhàn):既要滿足各個應用的服務質量(QoS),又要提高系統的資源利用率.圖1CPU負載變化圖應對這個挑戰(zhàn)的難點之一是如何準確實時地預測應用的資源需求,從而動態(tài)地為應用供應資源.目前已有的預測技術根據輸入可以分為兩類:一類是根據應用當前的負載、性能和資源消耗來預測下一個時間周期的資源需求,由于應用的性能指標和負載的類型具有多樣性,這類方法需要為每種應用設計不同的監(jiān)控模塊,而且要與應用進行交互以獲得應用的當前性能及負載.因而,這類方法的一個顯著不足就是通用性和擴展性差.另一類僅僅依據外圍監(jiān)測的資源消耗來預測,,已有預測機制有:線性增加、指數下降,大幅增加、小幅下降,服務分級等,這類方法的優(yōu)點是簡單實用,不足是預測機制太簡單導致預測精度不高.本文針對第二類方法的不足,結合全局及局部的資源消耗變化趨勢進行改進.應對這個挑戰(zhàn)的難點之二是如何有效地動態(tài)供應資源.數據中心資源管理的目的是整合服務、平衡負載、充分利用資源,不僅需要提高單臺節(jié)點的資源利用率,還需要平衡整個數據中心的負載.資源需求的動態(tài)變化會導致節(jié)點資源無法滿足所有應用的QoS,造成節(jié)點負載不均衡.常用的解決方法是通
租相同的資源,獲得最大的利潤).文獻[23]的全局資源管理器的計算原則是取得最優(yōu)的應用性能.本文也采用兩層的資源管理框架:全局資源管理器在下發(fā)作業(yè)時,結合作業(yè)的優(yōu)先級、資源需求以及資源消耗變化規(guī)律等屬性特征和數據中心資源負載的分布狀況,為作業(yè)選擇合適的節(jié)點,混合部署作業(yè),以減少同類資源競爭,避免節(jié)點負載過重,實現無需進行虛擬機遷移就能達到數據中心負載平衡的目的;局部資源管理器動態(tài)預測各個應用的資源需求,調整節(jié)點上各個容器的資源配置,保證高優(yōu)先級應用的服務質量.圖2作業(yè)資源管理架構3基于LinuxContainer的資源管理框架基于容器的資源管理系統架構如圖2所示.用戶通過客戶端提交作業(yè).中央管理器是系統的核心,包含作業(yè)調度器和全局資源管理器兩個組件,主要職責是為作業(yè)尋找合適的執(zhí)行節(jié)點.為了增強可靠性,一個數據中心至少配置兩個中央管理器,通過ZooKeeper①的領導者(Leader)選舉保證只有一個處于活躍狀態(tài).系統中除了中央管理器以及運行Zookeeper的節(jié)點以外,其余所有節(jié)點都是執(zhí)行節(jié)點.每臺執(zhí)行節(jié)點上都運行一個局部資源管理器,接收中央管理器下發(fā)的任務(一個作業(yè)包含若干個任務),并為每個任務創(chuàng)建一臺輕量級的虛擬機(LinuxContainer).數據中心中的所有節(jié)點共享一個分布式文件系統.用戶通過瀏覽器可以查詢作業(yè)調度器中的作業(yè)所處的狀態(tài)(等待下發(fā)、已下發(fā)、正在執(zhí)行、執(zhí)行出錯)、各個節(jié)點的資源使用狀況及節(jié)點上運行的作業(yè)信息.作業(yè)調度器接收用戶提交的作業(yè),按照優(yōu)先級排序,每次選擇優(yōu)先級最高的作業(yè),向全局資源管理器申請資
【共引文獻】
相關博士學位論文 前4條
1 張小慶;基于云計算環(huán)境的資源提供優(yōu)化方法研究[D];武漢理工大學;2013年
2 樂冠;面向服務系統的自適應資源管理技術研究[D];北京郵電大學;2013年
3 劉志飄;成本感知的云服務虛擬資源供應機制研究[D];北京郵電大學;2013年
4 王金寶;云計算系統中索引與查詢處理技術研究[D];哈爾濱工業(yè)大學;2013年
相關碩士學位論文 前10條
1 劉莉;異構集群下并行任務的復制調度算法[D];武漢紡織大學;2013年
2 趙建峰;基于遺傳算法和蟻群算法的節(jié)能調度研究[D];山東大學;2013年
3 李松;開源云計算平臺管理支撐平臺的研究與實現[D];山東大學;2013年
4 諶侃;用戶數據融合云計算存儲方案研究[D];北京郵電大學;2013年
5 趙曉冰;Hadoop平臺下的作業(yè)調度算法的研究[D];鄭州大學;2013年
6 吳莎;基于云環(huán)境的SLA及任務調度算法的研究與實現[D];西北大學;2013年
7 陳剛;云計算中基于XEN的虛擬機動態(tài)遷移的研究[D];武漢理工大學;2013年
8 張璞;基于Xen的虛擬機動態(tài)遷移策略研究[D];遼寧大學;2013年
9 張海洲;基于利用率和負載均衡的云資源調度算法研究[D];哈爾濱工業(yè)大學;2013年
10 胡丹丹;獲益驅動的虛擬機資源動態(tài)管理策略研究[D];廣西大學;2013年
本文編號:2644151
本文鏈接:http://www.sikaile.net/kejilunwen/jisuanjikexuelunwen/2644151.html