基于InfluxDB的橋梁監(jiān)測(cè)系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)
發(fā)布時(shí)間:2021-07-29 15:17
橋梁監(jiān)測(cè)系統(tǒng)可以有效保障服役橋梁的安全性、耐久性和完整性。長(zhǎng)期穩(wěn)定的橋梁結(jié)構(gòu)監(jiān)測(cè)數(shù)據(jù)是橋梁監(jiān)測(cè)系統(tǒng)安全運(yùn)行的基礎(chǔ)。由于監(jiān)測(cè)數(shù)據(jù)的高采樣頻率的特性,導(dǎo)致現(xiàn)有的關(guān)系型數(shù)據(jù)庫(kù)無(wú)法完成實(shí)時(shí)、高頻、海量數(shù)據(jù)存儲(chǔ)的任務(wù)。該文以贛江特大橋?yàn)楸O(jiān)測(cè)對(duì)象,針對(duì)監(jiān)測(cè)傳感器數(shù)據(jù)中時(shí)間標(biāo)簽的唯一性,采用基于時(shí)序數(shù)據(jù)的InfluxDB數(shù)據(jù)存儲(chǔ)引擎,為監(jiān)控、統(tǒng)計(jì)、分析、告警和管理等提供數(shù)據(jù)訪問(wèn)服務(wù),并在此基礎(chǔ)上設(shè)計(jì)實(shí)現(xiàn)了一套橋梁監(jiān)測(cè)系統(tǒng)。實(shí)踐表明,該時(shí)序數(shù)據(jù)存儲(chǔ)引擎能夠提供海量的存儲(chǔ)能力,同時(shí)兼顧極高的數(shù)據(jù)訪問(wèn)性能,為橋梁監(jiān)測(cè)提供可行的數(shù)據(jù)存儲(chǔ)方案。
【文章來(lái)源】:現(xiàn)代電子技術(shù). 2020,43(16)北大核心
【文章頁(yè)數(shù)】:5 頁(yè)
【部分圖文】:
監(jiān)測(cè)系統(tǒng)硬件拓?fù)浣Y(jié)構(gòu)圖
本系統(tǒng)采用開(kāi)源的InfluxDB為數(shù)據(jù)存儲(chǔ)引擎,其內(nèi)置HTTP API,方便存儲(chǔ)和檢索,數(shù)據(jù)可以被標(biāo)記,允許非常靈活的查詢。數(shù)據(jù)應(yīng)用服務(wù)主要包括實(shí)時(shí)數(shù)據(jù)服務(wù)、歷史數(shù)據(jù)服務(wù)、故障診斷預(yù)警服務(wù)、設(shè)備管理服務(wù),巡檢管理服務(wù)、用戶管理服務(wù)。其中,實(shí)時(shí)、歷史數(shù)據(jù)由InfluxDB提供數(shù)據(jù)支持,故障診斷預(yù)警服務(wù)通過(guò)Kapacitor進(jìn)行分析診斷,分布式消息系統(tǒng)Kafka負(fù)責(zé)數(shù)據(jù)消息分發(fā)。Kapacitor為傳感器數(shù)據(jù)提供實(shí)時(shí)監(jiān)控服務(wù),使用Kapacitor處理實(shí)時(shí)數(shù)據(jù),按照橋梁監(jiān)測(cè)規(guī)范監(jiān)測(cè)傳感器數(shù)據(jù)[6]。Kapacitor是一個(gè)開(kāi)源框架,用來(lái)處理、監(jiān)控和警告時(shí)間序列數(shù)據(jù),可以重復(fù)在InfluxDB中運(yùn)行查詢,然后在查詢結(jié)果上分析數(shù)據(jù),將分析結(jié)果發(fā)送給InfluxDB存儲(chǔ)。同時(shí),為了將告警消息及時(shí)傳給用戶,使用分布式消息系統(tǒng)Kafka將告警數(shù)據(jù)傳給在線用戶。2.2 TSM存儲(chǔ)架構(gòu)
InfluxDB的數(shù)據(jù)存儲(chǔ)架構(gòu)TSM(Timestamp Segments Merged)是在LSM(Log-Structured Merge)架構(gòu)的基礎(chǔ)上針對(duì)時(shí)序數(shù)據(jù)做了針對(duì)性的存儲(chǔ)改進(jìn),LSM將數(shù)據(jù)保持在內(nèi)存中,達(dá)到指定的大小限制后,將這些數(shù)據(jù)批量寫(xiě)入磁盤,讀取需要合并磁盤與內(nèi)存中的數(shù)據(jù)。所以寫(xiě)入性能大大提升,讀取則需要訪問(wèn)較多的磁盤文件,LSM放棄了部分?jǐn)?shù)據(jù)讀能力,換取寫(xiě)入的最大化[7]。TSM為了優(yōu)化LSM所存在的讀取性能問(wèn)題,基于時(shí)序數(shù)據(jù)的特點(diǎn),優(yōu)化讀取寫(xiě)入的性能。TSM存儲(chǔ)架構(gòu)主要由Cache,Wal,TSM File,Compactor組成,其結(jié)構(gòu)如圖3所示。TSM存儲(chǔ)結(jié)構(gòu)中每一個(gè)分片(Share)都包含Cache,Wal,TSM File,Compactor四個(gè)部分。分片是為了通過(guò)時(shí)間快速定位要查詢的數(shù)據(jù),同時(shí)也可以通過(guò)分片批量刪除數(shù)據(jù)。保留策略(Retention Policy,RP)中設(shè)置數(shù)據(jù)過(guò)期時(shí)間,數(shù)據(jù)過(guò)期時(shí)會(huì)批量刪除指定時(shí)間分片的數(shù)據(jù)。
【參考文獻(xiàn)】:
期刊論文
[1]基于數(shù)字測(cè)量技術(shù)的橋梁監(jiān)測(cè)及預(yù)警系統(tǒng)[J]. 于承新,張國(guó)建,趙永謙,劉曉東,丁新華,趙同龍. 山東大學(xué)學(xué)報(bào)(工學(xué)版). 2020(01)
[2]流式大數(shù)據(jù)實(shí)時(shí)處理技術(shù)、平臺(tái)及應(yīng)用[J]. 陳純. 大數(shù)據(jù). 2017(04)
[3]基于內(nèi)存數(shù)據(jù)庫(kù)的索引算法研究[J]. 石磊,黃高攀,喬雄. 信息技術(shù). 2016(11)
[4]B+樹(shù)索引機(jī)制的研究及優(yōu)化[J]. 施恩,顧大權(quán),馮徑,趙章明. 計(jì)算機(jī)應(yīng)用研究. 2017(06)
[5]監(jiān)測(cè)與監(jiān)控技術(shù)在橋梁施工中的作用分析[J]. 王衛(wèi)彪. 交通世界. 2016(01)
[6]無(wú)線傳感器網(wǎng)絡(luò)在橋梁健康監(jiān)測(cè)中的應(yīng)用[J]. 俞姝穎,吳小兵,陳貴海,戴海鵬,洪衛(wèi)星. 軟件學(xué)報(bào). 2015(06)
[7]橋梁安全監(jiān)測(cè)最新研究進(jìn)展與思考[J]. 馬宏偉,聶振華. 力學(xué)與實(shí)踐. 2015(02)
碩士論文
[1]大規(guī)模集群狀態(tài)時(shí)序數(shù)據(jù)采集、存儲(chǔ)與分析[D]. 劉金.北京郵電大學(xué) 2018
本文編號(hào):3309565
【文章來(lái)源】:現(xiàn)代電子技術(shù). 2020,43(16)北大核心
【文章頁(yè)數(shù)】:5 頁(yè)
【部分圖文】:
監(jiān)測(cè)系統(tǒng)硬件拓?fù)浣Y(jié)構(gòu)圖
本系統(tǒng)采用開(kāi)源的InfluxDB為數(shù)據(jù)存儲(chǔ)引擎,其內(nèi)置HTTP API,方便存儲(chǔ)和檢索,數(shù)據(jù)可以被標(biāo)記,允許非常靈活的查詢。數(shù)據(jù)應(yīng)用服務(wù)主要包括實(shí)時(shí)數(shù)據(jù)服務(wù)、歷史數(shù)據(jù)服務(wù)、故障診斷預(yù)警服務(wù)、設(shè)備管理服務(wù),巡檢管理服務(wù)、用戶管理服務(wù)。其中,實(shí)時(shí)、歷史數(shù)據(jù)由InfluxDB提供數(shù)據(jù)支持,故障診斷預(yù)警服務(wù)通過(guò)Kapacitor進(jìn)行分析診斷,分布式消息系統(tǒng)Kafka負(fù)責(zé)數(shù)據(jù)消息分發(fā)。Kapacitor為傳感器數(shù)據(jù)提供實(shí)時(shí)監(jiān)控服務(wù),使用Kapacitor處理實(shí)時(shí)數(shù)據(jù),按照橋梁監(jiān)測(cè)規(guī)范監(jiān)測(cè)傳感器數(shù)據(jù)[6]。Kapacitor是一個(gè)開(kāi)源框架,用來(lái)處理、監(jiān)控和警告時(shí)間序列數(shù)據(jù),可以重復(fù)在InfluxDB中運(yùn)行查詢,然后在查詢結(jié)果上分析數(shù)據(jù),將分析結(jié)果發(fā)送給InfluxDB存儲(chǔ)。同時(shí),為了將告警消息及時(shí)傳給用戶,使用分布式消息系統(tǒng)Kafka將告警數(shù)據(jù)傳給在線用戶。2.2 TSM存儲(chǔ)架構(gòu)
InfluxDB的數(shù)據(jù)存儲(chǔ)架構(gòu)TSM(Timestamp Segments Merged)是在LSM(Log-Structured Merge)架構(gòu)的基礎(chǔ)上針對(duì)時(shí)序數(shù)據(jù)做了針對(duì)性的存儲(chǔ)改進(jìn),LSM將數(shù)據(jù)保持在內(nèi)存中,達(dá)到指定的大小限制后,將這些數(shù)據(jù)批量寫(xiě)入磁盤,讀取需要合并磁盤與內(nèi)存中的數(shù)據(jù)。所以寫(xiě)入性能大大提升,讀取則需要訪問(wèn)較多的磁盤文件,LSM放棄了部分?jǐn)?shù)據(jù)讀能力,換取寫(xiě)入的最大化[7]。TSM為了優(yōu)化LSM所存在的讀取性能問(wèn)題,基于時(shí)序數(shù)據(jù)的特點(diǎn),優(yōu)化讀取寫(xiě)入的性能。TSM存儲(chǔ)架構(gòu)主要由Cache,Wal,TSM File,Compactor組成,其結(jié)構(gòu)如圖3所示。TSM存儲(chǔ)結(jié)構(gòu)中每一個(gè)分片(Share)都包含Cache,Wal,TSM File,Compactor四個(gè)部分。分片是為了通過(guò)時(shí)間快速定位要查詢的數(shù)據(jù),同時(shí)也可以通過(guò)分片批量刪除數(shù)據(jù)。保留策略(Retention Policy,RP)中設(shè)置數(shù)據(jù)過(guò)期時(shí)間,數(shù)據(jù)過(guò)期時(shí)會(huì)批量刪除指定時(shí)間分片的數(shù)據(jù)。
【參考文獻(xiàn)】:
期刊論文
[1]基于數(shù)字測(cè)量技術(shù)的橋梁監(jiān)測(cè)及預(yù)警系統(tǒng)[J]. 于承新,張國(guó)建,趙永謙,劉曉東,丁新華,趙同龍. 山東大學(xué)學(xué)報(bào)(工學(xué)版). 2020(01)
[2]流式大數(shù)據(jù)實(shí)時(shí)處理技術(shù)、平臺(tái)及應(yīng)用[J]. 陳純. 大數(shù)據(jù). 2017(04)
[3]基于內(nèi)存數(shù)據(jù)庫(kù)的索引算法研究[J]. 石磊,黃高攀,喬雄. 信息技術(shù). 2016(11)
[4]B+樹(shù)索引機(jī)制的研究及優(yōu)化[J]. 施恩,顧大權(quán),馮徑,趙章明. 計(jì)算機(jī)應(yīng)用研究. 2017(06)
[5]監(jiān)測(cè)與監(jiān)控技術(shù)在橋梁施工中的作用分析[J]. 王衛(wèi)彪. 交通世界. 2016(01)
[6]無(wú)線傳感器網(wǎng)絡(luò)在橋梁健康監(jiān)測(cè)中的應(yīng)用[J]. 俞姝穎,吳小兵,陳貴海,戴海鵬,洪衛(wèi)星. 軟件學(xué)報(bào). 2015(06)
[7]橋梁安全監(jiān)測(cè)最新研究進(jìn)展與思考[J]. 馬宏偉,聶振華. 力學(xué)與實(shí)踐. 2015(02)
碩士論文
[1]大規(guī)模集群狀態(tài)時(shí)序數(shù)據(jù)采集、存儲(chǔ)與分析[D]. 劉金.北京郵電大學(xué) 2018
本文編號(hào):3309565
本文鏈接:http://www.sikaile.net/kejilunwen/jiaotonggongchenglunwen/3309565.html
最近更新
教材專著