基于Ambari的智慧交通大數(shù)據(jù)智能監(jiān)控系統(tǒng)設計與實現(xiàn)
發(fā)布時間:2021-08-08 08:10
隨著國民經(jīng)濟的飛速發(fā)展以及城鎮(zhèn)化進程的持續(xù)提高,我國機動車數(shù)量呈指數(shù)型增長。汽車保有量急速增長,高速公路的利用率越來越高,與之而來的交通擁堵、交通事故以及高速公路逃費事件等日益頻發(fā),如何基于大數(shù)據(jù)技術對交通出行效率和安全性進行提升是一個極具應用價值的研究課題。交通大數(shù)據(jù)存在數(shù)據(jù)多源異構、類型復雜以及對實時性要求高等特點,傳統(tǒng)的單中心型關系數(shù)據(jù)庫技術處理方式已無法滿足現(xiàn)階段的難以滿足應用需求,基于此,本課題基于Ambari技術研發(fā)智慧交通大數(shù)據(jù)監(jiān)控平臺,提高智慧交通監(jiān)管能力和交通大數(shù)據(jù)資源利用率。首先,深入分析智慧交通中大數(shù)據(jù)應用現(xiàn)狀及所面臨的主要問題,梳理了擬建設平臺的功能構成;然后,針對交通大數(shù)據(jù)結構復雜、數(shù)據(jù)量大且實時性要求高等特點,結合交通大數(shù)據(jù)采集、清洗、分類、存儲和加工等應用場景需求,設計了智慧交通大數(shù)據(jù)監(jiān)控平臺的總體架構和數(shù)據(jù)庫模型;接下來,基于Ambari技術實現(xiàn)了智慧交通大數(shù)據(jù)智能監(jiān)控系統(tǒng),對交通大數(shù)據(jù)進行高效匯聚和智能分析,通過大數(shù)據(jù)可視化的管理、監(jiān)控界面展示大數(shù)據(jù)平臺的運行狀況,有效提升智慧交通監(jiān)控水平和對異常交通行為的識別能力;最后,結合實際應用場景對系統(tǒng)功能進行...
【文章來源】:湖南大學湖南省 211工程院校 985工程院校 教育部直屬院校
【文章頁數(shù)】:83 頁
【學位級別】:碩士
【部分圖文】:
主要技術點圖
工程碩士學位論文圖2.2Spark核心模塊圖2.2.5YARNApacheHadoopYARN(YetAnotherResourceNegotiator,另一種資源協(xié)調(diào)者)是一種新的Hadoop通用資源管理系統(tǒng),不同于其它的是它可以為上層的應用提供統(tǒng)一的資源管理和調(diào)度服務功能,YARN的引入為集群管理提供了很大的便捷,特別是在集群利用率、資源統(tǒng)一管理和數(shù)據(jù)共享等方面尤為突出。2.2.6HDFSHadoop分布式文件系統(tǒng)是一個被設計成適合運行在通用硬件(commodityhardware)上的分布式文件系統(tǒng)。HDFS相比其他分布式文件具有高度容錯性能,而且適合部署在廉價的機器上。另外,HDFS能夠提供高吞吐量的數(shù)據(jù)訪問,非常適合大規(guī)模數(shù)據(jù)集上的應用,這也為交通數(shù)據(jù)的不斷增長后處理奠定了良好的基矗2.2.7HiveHive是基于Hadoop的一個數(shù)據(jù)倉庫工具,其主要功能是可以提供將結構化的數(shù)據(jù)文件映射為一張數(shù)據(jù)庫表服務,并且支持一些簡單的SQL查詢功能,另外,還可以將SQL語句轉換為MapReduce任務進行運行,十分適合數(shù)據(jù)倉庫的統(tǒng)計分析,為系統(tǒng)統(tǒng)計存儲數(shù)據(jù)提供了有力的支持。2.2.8MapReduceMapReduce主要用于較大數(shù)據(jù)集的并行運算,其主要思想是從函數(shù)式編程語言借鑒過來的“映射“和“規(guī)約”,使用MapReduce編程工具,可以極大方便程序運行在分布式系統(tǒng)。簡單來講就是指定一個Map(映射)函數(shù),把原有的一組鍵值對映射成一組新的鍵值對,并指定并發(fā)的Reduce(歸約)函數(shù),用來保證所有映射的鍵值對中的每一個共享相同的鍵組。2.2.9Ambari11
SSO單點登錄
【參考文獻】:
期刊論文
[1]智慧交通大數(shù)據(jù)研究與實踐——以武漢智能公交系統(tǒng)例[J]. 宋虎剛,官小燕,周梓旋,吳英英. 電腦知識與技術. 2018(13)
[2]物聯(lián)網(wǎng)下的智慧交通大數(shù)據(jù)挖掘系統(tǒng)探析[J]. 張永鵬,甘慶華. 數(shù)字技術與應用. 2018(04)
[3]“互聯(lián)網(wǎng)+”背景下的智慧交通大數(shù)據(jù)應用創(chuàng)新研究[J]. 黃興. 居舍. 2018(08)
[4]關于大數(shù)據(jù)挖掘分析的智慧交通服務系統(tǒng)探究[J]. 曲程. 科技創(chuàng)新導報. 2017(10)
[5]智慧交通背景下大數(shù)據(jù)應用面臨的挑戰(zhàn)與對策研究[J]. 馬靖霖. 內(nèi)蒙古科技與經(jīng)濟. 2017(02)
[6]基于物聯(lián)網(wǎng)的智慧交通大數(shù)據(jù)挖掘系統(tǒng)[J]. 潘俊方,樊阿嬌,茹艷,李永祥. 無線互聯(lián)科技. 2016(05)
[7]“互聯(lián)網(wǎng)+”背景下的智慧交通大數(shù)據(jù)應用創(chuàng)新研究[J]. 賈亞朝,唐賢芳,張如. 現(xiàn)代經(jīng)濟信息. 2016(05)
[8]近五年國內(nèi)智慧交通研究綜述[J]. 李艷平. 中國高新技術企業(yè). 2016(07)
[9]Hadoop集群部署實驗的設計與實現(xiàn)[J]. 孟永偉,黃建強,曹騰飛,王曉英. 實驗技術與管理. 2015(01)
[10]大數(shù)據(jù)方法對于緩解城市交通擁堵的作用的理論分析[J]. 趙鵬軍,李鎧. 現(xiàn)代城市研究. 2014(10)
碩士論文
[1]綿陽智慧交通大數(shù)據(jù)應用服務問題與對策研究[D]. 王玉晶.電子科技大學 2018
本文編號:3329576
【文章來源】:湖南大學湖南省 211工程院校 985工程院校 教育部直屬院校
【文章頁數(shù)】:83 頁
【學位級別】:碩士
【部分圖文】:
主要技術點圖
工程碩士學位論文圖2.2Spark核心模塊圖2.2.5YARNApacheHadoopYARN(YetAnotherResourceNegotiator,另一種資源協(xié)調(diào)者)是一種新的Hadoop通用資源管理系統(tǒng),不同于其它的是它可以為上層的應用提供統(tǒng)一的資源管理和調(diào)度服務功能,YARN的引入為集群管理提供了很大的便捷,特別是在集群利用率、資源統(tǒng)一管理和數(shù)據(jù)共享等方面尤為突出。2.2.6HDFSHadoop分布式文件系統(tǒng)是一個被設計成適合運行在通用硬件(commodityhardware)上的分布式文件系統(tǒng)。HDFS相比其他分布式文件具有高度容錯性能,而且適合部署在廉價的機器上。另外,HDFS能夠提供高吞吐量的數(shù)據(jù)訪問,非常適合大規(guī)模數(shù)據(jù)集上的應用,這也為交通數(shù)據(jù)的不斷增長后處理奠定了良好的基矗2.2.7HiveHive是基于Hadoop的一個數(shù)據(jù)倉庫工具,其主要功能是可以提供將結構化的數(shù)據(jù)文件映射為一張數(shù)據(jù)庫表服務,并且支持一些簡單的SQL查詢功能,另外,還可以將SQL語句轉換為MapReduce任務進行運行,十分適合數(shù)據(jù)倉庫的統(tǒng)計分析,為系統(tǒng)統(tǒng)計存儲數(shù)據(jù)提供了有力的支持。2.2.8MapReduceMapReduce主要用于較大數(shù)據(jù)集的并行運算,其主要思想是從函數(shù)式編程語言借鑒過來的“映射“和“規(guī)約”,使用MapReduce編程工具,可以極大方便程序運行在分布式系統(tǒng)。簡單來講就是指定一個Map(映射)函數(shù),把原有的一組鍵值對映射成一組新的鍵值對,并指定并發(fā)的Reduce(歸約)函數(shù),用來保證所有映射的鍵值對中的每一個共享相同的鍵組。2.2.9Ambari11
SSO單點登錄
【參考文獻】:
期刊論文
[1]智慧交通大數(shù)據(jù)研究與實踐——以武漢智能公交系統(tǒng)例[J]. 宋虎剛,官小燕,周梓旋,吳英英. 電腦知識與技術. 2018(13)
[2]物聯(lián)網(wǎng)下的智慧交通大數(shù)據(jù)挖掘系統(tǒng)探析[J]. 張永鵬,甘慶華. 數(shù)字技術與應用. 2018(04)
[3]“互聯(lián)網(wǎng)+”背景下的智慧交通大數(shù)據(jù)應用創(chuàng)新研究[J]. 黃興. 居舍. 2018(08)
[4]關于大數(shù)據(jù)挖掘分析的智慧交通服務系統(tǒng)探究[J]. 曲程. 科技創(chuàng)新導報. 2017(10)
[5]智慧交通背景下大數(shù)據(jù)應用面臨的挑戰(zhàn)與對策研究[J]. 馬靖霖. 內(nèi)蒙古科技與經(jīng)濟. 2017(02)
[6]基于物聯(lián)網(wǎng)的智慧交通大數(shù)據(jù)挖掘系統(tǒng)[J]. 潘俊方,樊阿嬌,茹艷,李永祥. 無線互聯(lián)科技. 2016(05)
[7]“互聯(lián)網(wǎng)+”背景下的智慧交通大數(shù)據(jù)應用創(chuàng)新研究[J]. 賈亞朝,唐賢芳,張如. 現(xiàn)代經(jīng)濟信息. 2016(05)
[8]近五年國內(nèi)智慧交通研究綜述[J]. 李艷平. 中國高新技術企業(yè). 2016(07)
[9]Hadoop集群部署實驗的設計與實現(xiàn)[J]. 孟永偉,黃建強,曹騰飛,王曉英. 實驗技術與管理. 2015(01)
[10]大數(shù)據(jù)方法對于緩解城市交通擁堵的作用的理論分析[J]. 趙鵬軍,李鎧. 現(xiàn)代城市研究. 2014(10)
碩士論文
[1]綿陽智慧交通大數(shù)據(jù)應用服務問題與對策研究[D]. 王玉晶.電子科技大學 2018
本文編號:3329576
本文鏈接:http://www.sikaile.net/kejilunwen/daoluqiaoliang/3329576.html