支持多集群數(shù)據(jù)并行的On-demand文件傳輸算法
本文選題:多集群 + 目的端并行。 參考:《計(jì)算機(jī)科學(xué)》2013年03期
【摘要】:數(shù)據(jù)密集型應(yīng)用通常需要在廣域網(wǎng)分布式共享計(jì)算環(huán)境中高效地傳輸海量數(shù)據(jù)。并行處理中,大量的數(shù)據(jù)需要在生成集群、存儲(chǔ)集群、處理集群間進(jìn)行傳輸。針對(duì)該傳輸問(wèn)題提出了一個(gè)支持多集群數(shù)據(jù)并行傳輸?shù)陌葱栉募䝼鬏斔惴?On-demand File Transfer),該算法以批量傳輸請(qǐng)求的整體完成時(shí)間最小為目的,根據(jù)集群內(nèi)部快速傳輸?shù)奶攸c(diǎn),實(shí)現(xiàn)目的端并行,分散單個(gè)節(jié)點(diǎn)的傳輸負(fù)載;在傳輸路徑上,采用多重路徑和多跳路徑分割方法實(shí)現(xiàn)并行傳輸。對(duì)于批量傳輸請(qǐng)求,依據(jù)每個(gè)請(qǐng)求的傳輸負(fù)載,全局按需分配帶寬,以解決傳輸路徑的帶寬沖突,從而充分利用當(dāng)前網(wǎng)絡(luò)帶寬,快速傳輸批量傳輸請(qǐng)求。
[Abstract]:Data intensive applications usually need to transmit mass data efficiently in WAN distributed shared computing environment. In parallel processing, a large amount of data needs to be transferred between generating clusters, storing clusters, and processing clusters. To solve this problem, an on-demand File transfer algorithm for multi-cluster data parallel transmission is proposed. The algorithm aims at minimizing the overall completion time of batch transmission requests, and according to the characteristics of fast transmission within the cluster. In the transmission path, the multi-path and multi-hop paths are used to realize the parallel transmission. For batch transmission request, according to the transmission load of each request, the bandwidth is allocated according to the global demand to solve the bandwidth conflict of the transmission path, so as to make full use of the current network bandwidth and transmit the batch transmission request quickly.
【作者單位】: 吉林大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院;
【分類(lèi)號(hào)】:TP393.093;TP338.6
【相似文獻(xiàn)】
相關(guān)期刊論文 前10條
1 鐘漢如;葉家威;;基于RS485的PC與ARM間文件傳輸?shù)膶?shí)現(xiàn)[J];微計(jì)算機(jī)信息;2008年05期
2 郭訓(xùn)平;;端點(diǎn)防護(hù) 按需出牌[J];軟件世界;2007年17期
3 郭一凡;EPSON打印機(jī)的按需打印(ODP)理念[J];電子出版;2002年05期
4 ;網(wǎng)鉆LandAttach NAS 4150按需存儲(chǔ)[J];計(jì)算機(jī)與網(wǎng)絡(luò);2003年08期
5 建;激打“按需打印”[J];中國(guó)計(jì)算機(jī)用戶(hù);1999年23期
6 ;泰克推崇按需打印[J];每周電腦報(bào);1998年11期
7 李志峰;利用紅外線(xiàn)端口進(jìn)行文件傳輸[J];微電腦世界;1999年21期
8 ;高效率 低成本——實(shí)達(dá)POD按需打印解決方案[J];華南金融電腦;2001年11期
9 張永路;服務(wù)也要“按需定制”[J];中國(guó)計(jì)算機(jī)用戶(hù);2002年10期
10 鄭瑋;;按需使用落在實(shí)處[J];每周電腦報(bào);2003年07期
相關(guān)會(huì)議論文 前1條
1 劉子林;巫正中;周長(zhǎng)生;韓起;;基于Linux的網(wǎng)絡(luò)傳感器遠(yuǎn)程通信實(shí)現(xiàn)[A];2005通信理論與技術(shù)新進(jìn)展——第十屆全國(guó)青年通信學(xué)術(shù)會(huì)議論文集[C];2005年
相關(guān)重要報(bào)紙文章 前10條
1 本報(bào)記者 張彤;按需擴(kuò)展[N];網(wǎng)絡(luò)世界;2003年
2 ;實(shí)達(dá)POD按需打印解決方案[N];中國(guó)計(jì)算機(jī)報(bào);2002年
3 本報(bào)記者 郭平;超前“消費(fèi)”休矣[N];計(jì)算機(jī)世界;2002年
4 記者 郭見(jiàn)洌;低電壓移動(dòng) Athlon XP-M“按需”而來(lái)[N];計(jì)算機(jī)世界;2003年
5 郭濤;將“按需擴(kuò)展”進(jìn)行到底[N];中國(guó)計(jì)算機(jī)報(bào);2003年
6 邊歆;按需部署 靈活安全[N];網(wǎng)絡(luò)世界;2009年
7 趙鑫;按需增長(zhǎng)的數(shù)據(jù)備份[N];中國(guó)計(jì)算機(jī)報(bào);2003年
8 三石;藍(lán)色巨人逼近“按需存儲(chǔ)”[N];中國(guó)計(jì)算機(jī)報(bào);2004年
9 天然;新施樂(lè)解決方案為全彩色按需圖書(shū)制作提供方便[N];中國(guó)包裝報(bào);2002年
10 ;惠普按需供應(yīng)解決方案:所求即所得[N];計(jì)算機(jī)世界;2003年
相關(guān)博士學(xué)位論文 前1條
1 陳彬;分布環(huán)境下虛擬機(jī)按需部署關(guān)鍵技術(shù)研究[D];國(guó)防科學(xué)技術(shù)大學(xué);2010年
相關(guān)碩士學(xué)位論文 前9條
1 劉冰;集群環(huán)境下的文件調(diào)度優(yōu)化研究[D];太原理工大學(xué);2012年
2 趙霄;基于單片機(jī)的藍(lán)牙接口設(shè)計(jì)及數(shù)據(jù)傳輸?shù)膶?shí)現(xiàn)[D];北京交通大學(xué);2008年
3 董楊生;USB主機(jī)在嵌入式系統(tǒng)中的應(yīng)用[D];南京理工大學(xué);2008年
4 武曉燕;基于嵌入式系統(tǒng)的語(yǔ)音、文件及消息網(wǎng)絡(luò)傳輸實(shí)現(xiàn)[D];天津大學(xué);2012年
5 胡明;Ethernet Over USB的原理及其實(shí)現(xiàn)[D];東南大學(xué);2005年
6 沈琦;基于Chord的高性能文件存儲(chǔ)技術(shù)的研究與設(shè)計(jì)[D];浙江大學(xué);2007年
7 楊斌;基于網(wǎng)格的分布式存儲(chǔ)系統(tǒng)中數(shù)據(jù)分布和傳輸機(jī)制研究與實(shí)現(xiàn)[D];北京交通大學(xué);2008年
8 蔡暉;PASS系統(tǒng)的起源信息收集及傳播的研究[D];浙江大學(xué);2008年
9 徐彥棟;基于DICOM標(biāo)準(zhǔn)的按需打印系統(tǒng)設(shè)計(jì)和實(shí)現(xiàn)[D];上海交通大學(xué);2012年
,本文編號(hào):1903677
本文鏈接:http://www.sikaile.net/guanlilunwen/ydhl/1903677.html