從頭認識“快數(shù)據”
互聯(lián)網業(yè)務和技術的發(fā)展迎來了信息革命新的高潮,所帶來的除了更加高效的生產和消費模式外,還帶來數(shù)據的爆炸式增長。移動互聯(lián)網和物聯(lián)網浪潮下的數(shù)據規(guī)模與產生速度更是前所未有地加快,相應產生的數(shù)據存儲、處理、分析、展示的技術與工具也層出不窮。傳統(tǒng)企業(yè)已經具備對現(xiàn)有系統(tǒng)流程和數(shù)據比較成熟的生產和獲取方式,然而如何對曾經被忽視和丟棄的數(shù)據,利用分布式、基于內存等新型技術,同時整合企業(yè)現(xiàn)有數(shù)據和分析結果來實現(xiàn)業(yè)務創(chuàng)新和增強,是急需解決的問題。
大數(shù)據的初始階段,價值往往呈現(xiàn)出稀疏的特點,企業(yè)常常需要“沙里淘金”。在當今時代,存儲海量數(shù)據的成本雖然已經降低,但從海量數(shù)據中獲取價值卻是昂貴的,而要及時獲取價值則更加昂貴。因此,越來越多的企業(yè)選擇構建大數(shù)據實時計算框架,以期從中獲得實時的數(shù)據洞見,“快數(shù)據”的概念也因此應運而生。
什么是快數(shù)據?
大數(shù)據的概念本身比較抽象,,一個比較有代表性的是 4V 定義,即認為大數(shù)據需滿足 4個特點:規(guī)模性(Volume)、 多樣性(Variety)、高速性(Velocity) 和價值性 (Value)。而快數(shù)據則是為了實現(xiàn)高速性(Velocity) 而產生的。“快”來自一些眾所周知的法則:時間就是金錢,數(shù)據的價值也具有時效性,數(shù)據的價值隨著時間折舊越快。下表給出了不同業(yè)務處理數(shù)據快慢的比較。
從數(shù)據分析的技術實現(xiàn)視角分析,目前的大數(shù)據處理可以分為如下三個類型:
復雜的批量數(shù)據處理(batch processing),常見的實現(xiàn)框架如Hadoop/Mapreduce,數(shù)據處理的時間跨度在數(shù)十分鐘到數(shù)小時之間。
增強的歷史數(shù)據的交互式查詢(inter-active query),常見的實現(xiàn)框架如Dremel/Impala,數(shù)據處理的時間跨度在數(shù)十秒到數(shù)分鐘之間。
基于實時事件數(shù)據流的數(shù)據處理(event streaming processing),常見的實現(xiàn)框架如Oracle CEP、Strom。數(shù)據處理的時間跨度在數(shù)百毫秒到數(shù)秒之間。
以上的三種方式,最符合快數(shù)據定義的是第三種;趯崟r事件數(shù)據流的數(shù)據處理不光是能夠提供更快的數(shù)據處理效率,而是采用了一種完全不同于離線批處理的模式。這兩種處理模式,批處理(Batch Processing)是先存儲后處理(Store-then-process),而流處理則是直接處理(Straight-through processing)。這兩種處理模式相輔相成,在企業(yè)構建大數(shù)據處理框架時都非常重要。一些成熟的企業(yè)在處理數(shù)據時,會把數(shù)據處理服務分成幾層。一方面是重要程度,一方面是處理時效要求,比如“快數(shù)據緊急”、“快數(shù)據不緊急”和“慢數(shù)據重要”等?鞌(shù)據從本質上意味著數(shù)據處理接近實時決策的能力,改善業(yè)務決策所花費的時間,流處理模式則給系統(tǒng)業(yè)務創(chuàng)新帶來了更多的想象空間和創(chuàng)新空間。
快數(shù)據有怎樣的應用場景?
人類社會的數(shù)據產生方式大致經歷了3個階段,正是數(shù)據產生方式的巨大變化才最終導致大數(shù)據的產生:
1. 運營式系統(tǒng)階段。數(shù)據的產生大都為運營系統(tǒng)產生,數(shù)據也大都是運營相關的數(shù)據。這種數(shù)據的產生特點是被動的。
2. 用戶創(chuàng)造內容階段;ヂ(lián)網的發(fā)展尤其是電子商務和Web2.0的發(fā)展帶來數(shù)據新的爆發(fā)階段;ヂ(lián)網電子商務的發(fā)展產生了大量的用戶行為數(shù)據,這完全不同于被動式運營系統(tǒng)所產生的數(shù)據。Web2.0的最重要標志就是用戶原創(chuàng)內容(UGC, User Generated Content)。這個階段數(shù)據的產生特點是主動的。
3. 感知式系統(tǒng)階段。今天我們正處于這個階段的起點。這個階段產生的核心原因在于移動互聯(lián)網和物聯(lián)網的發(fā)展興起。隨著技術的發(fā)展, 智能手機、可穿戴設備以及微小的帶有處理功能的傳感器日益成熟,各種原來“死”的設備,現(xiàn)在都能自動生成、采集數(shù)據,就連我們人類,也因為攜帶智能設備,每一次位置變化和設備使用都會產生大量可用于分析的數(shù)據。這種數(shù)據的產生特點是自動的。
簡單來說,數(shù)據產生歷了被動、主動和自動三個階段。這些被動、主動和自動的數(shù)據共同構成了大數(shù)據的數(shù)據來源。
快數(shù)據可以在下面四大領域幫助企業(yè)客戶:
• 幫助企業(yè)提升客戶體驗。傳統(tǒng)的被動型系統(tǒng)會丟棄很多與業(yè)務存儲以及統(tǒng)計分析無關的數(shù)據。而快數(shù)據能夠有機的和傳統(tǒng)數(shù)據以及Hadoop類型大數(shù)據進行有機的結合,幫助企業(yè)更好的建立全視角用戶視圖,開發(fā)出用戶驅動型的產品,提供客戶導向型的服務?鞌(shù)據彌補了原來用單一數(shù)據庫和Hadoop平臺構建全視角用戶視圖的制肘之處。
• 幫助企業(yè)優(yōu)化運營。傳統(tǒng)企業(yè)IT運營往往缺乏把握在線營銷時機的能力。在客戶行為事件發(fā)生的恰當時機,以最了解客戶的形式展開營銷。同時,在社交媒體追蹤對地點、用戶和產品的提及信息,分析產品、用戶、品牌之間的關聯(lián),從而優(yōu)化其內部產品與服務提供的準確性,進行跟有針對性的線上和線下(O2O[注])產品推薦是傳統(tǒng)企業(yè)最重要的運營能力創(chuàng)新。
• 幫助企業(yè)優(yōu)化資源。通過智能設備的數(shù)據采集技術,可以實現(xiàn)企業(yè)對所需資源的精準優(yōu)化,優(yōu)化資源使用效率。在企業(yè)在運營過程中,用戶產品所需要的每一種資源的具體使用情況和分布等,企業(yè)都可以進行搜集分析,就如同“電子駕駛艙”一般,實現(xiàn)“點對點”的數(shù)據化、圖像化展現(xiàn)。快數(shù)據讓企業(yè)的管理者管理優(yōu)化企業(yè)資源的方式從“T+1”進化到“T+0”,可以更直觀高效地管理自己的企業(yè)。
• 幫助企業(yè)拓展服務。快數(shù)據讓企業(yè)將自己的服務時機與地點拓展到客戶生命周期的每一個要點。企業(yè)還可以借助社交媒體中公開的海量數(shù)據,通過快數(shù)據趨勢分析輿情偵聽技術、分析數(shù)據內容之間的關聯(lián)度等,進而面向社會化用戶開展精細化服務。
如何分辨企業(yè)是否需要“快數(shù)據”?
隨著大數(shù)據已經成為IT業(yè)界炙手可熱的話題(+微信關注網絡世界),所有企業(yè)都希望盡早部署自己的大數(shù)據戰(zhàn)略,也希望通過“快數(shù)據”獲取實時數(shù)據分析能力。然而,如何分辨企業(yè)是真的需要“快數(shù)據”還是僅需要狹義的大數(shù)據解決方案?這里甲骨文提出快數(shù)據項目三問幫企業(yè)做出正確決策:
• 數(shù)據分析的結果如何反作用于應用系統(tǒng)?
• 數(shù)據是連續(xù)不斷的而且有順序、窗口、時機等要素,是來源眾多的且有不同格式,數(shù)據量大但不關心存儲嗎?
• 是否考慮三個第一:能否在第一時間,客戶的第一接觸點上,作出第一反應?
如果企業(yè)可以正確認識以上問題并根據自身實際情況給出肯定的答案,那么“快數(shù)據”是企業(yè)的一個良好選擇。常見的快數(shù)據處理場景包括事件驅動營銷與推薦,基于位置的服務,交互式營銷,客戶維系挽留,風險預測與評估,性能管理,媒體偵聽與響應,智能設備采集分析,金融量化交易與風險管理。
甲骨文認為,為了得到全面、透徹、完善的市場洞察,大數(shù)據應完全覆蓋傳統(tǒng)數(shù)據、非結構化數(shù)據、流式數(shù)據和快數(shù)據,共同為企業(yè)構建全數(shù)據視圖,提供全面的信息支撐。因此,“快數(shù)據”始終是甲骨文大數(shù)據解決方案中重要的一環(huán),也是未來的一大關鍵方向。
甲骨文具備完整的數(shù)據“流程”方案:從Oracle大數(shù)據一體機、Oracle大數(shù)據連接器、Exadata 數(shù)據庫云服務器、Exalytics商務智能云服務器,再到Oracle Endeca Information Discovery、Oracle實時決策、Oracle事件處理、R語言,尤其是強大的Oracle數(shù)據庫與中間件,構成了大數(shù)據從捕獲、存儲、計算、處理、分析、發(fā)現(xiàn)、展現(xiàn)等全生命流程處理,能夠幫助企業(yè)有效應對數(shù)據海洋,獲得分析洞見。
來源:網界網
文章為作者獨立觀點,不代表經管之家立場
本文編號:17186
本文鏈接:http://www.sikaile.net/guanlilunwen/sjfx/17186.html