大數(shù)據(jù)的四大方面及十五大關(guān)鍵技術(shù)詳解

1、u!大數(shù)據(jù)的四大方面及十五大關(guān)鍵技術(shù)詳解近年來，大數(shù)據(jù)來勢洶洶，滲透到各行各業(yè)，帶來了一場翻天覆地的變革。讓人們越 發(fā)認(rèn)識到，比掌握龐大的數(shù)據(jù)信息更重要的是掌握對含有意義的數(shù)據(jù)進行專業(yè)化處理的技 術(shù)。大數(shù)據(jù)關(guān)鍵技術(shù)涵蓋從數(shù)據(jù)存儲、處理、應(yīng)用等多方面的技術(shù)，根據(jù)大數(shù)據(jù)的處理過 程，可將其分為大數(shù)據(jù)采集、大數(shù)據(jù)預(yù)處理、大數(shù)據(jù)存儲及管理、大數(shù)據(jù)分析及挖掘等環(huán)節(jié)。 本文針對大數(shù)據(jù)的關(guān)鍵技術(shù)進行梳理，供大家參考。part 1.大數(shù)據(jù)采集數(shù)據(jù)采集是大數(shù)據(jù)生命周期的第一個環(huán)節(jié)，它通過rfid射頻數(shù)據(jù)、傳感器數(shù)據(jù)、社 交網(wǎng)絡(luò)數(shù)據(jù)、移動互聯(lián)網(wǎng)數(shù)據(jù)等方式獲得各種類型的結(jié)構(gòu)化、半結(jié)構(gòu)化及非結(jié)構(gòu)化的海量數(shù) 據(jù)。由于可

2、能有成千上萬的用戶同時進行并發(fā)訪問和操作，因此，必須采用專門針對大數(shù)據(jù) 的采集方法，其主要包括以下三種：a. 數(shù)據(jù)庫采集一些企業(yè)會使用傳統(tǒng)的關(guān)系型數(shù)據(jù)庫mysql和oracle等來存儲數(shù)據(jù)。談到比較多的 工具有sqoop和結(jié)構(gòu)化數(shù)據(jù)庫間的etl工具，當(dāng)然當(dāng)前對于開源的kettle和talend本身也 集成了大數(shù)據(jù)集成內(nèi)容，可以實現(xiàn)和hdfs, hbase和主流nosq數(shù)據(jù)庫之間的數(shù)據(jù)同步和集 成。b. 網(wǎng)絡(luò)數(shù)據(jù)采集網(wǎng)絡(luò)數(shù)據(jù)采集主要是借助網(wǎng)絡(luò)爬蟲或網(wǎng)站公開api等方式，從網(wǎng)站上獲取數(shù)據(jù)信息的 過程。通過這種途徑可將網(wǎng)絡(luò)上非結(jié)構(gòu)化數(shù)據(jù)、半結(jié)構(gòu)化數(shù)據(jù)從網(wǎng)頁中提取出來，并以結(jié)構(gòu) 化的方式將其存儲為統(tǒng)一

3、的本地數(shù)據(jù)文件。c. 文件采集對于文件的采集，談的比較多的還是flume進行實時的文件采集和處理，當(dāng)然對于elk （elasticsearch> logstash> kibana三者的組合）雖然是處理日志，但是也有基于模板配置 的完整增量實時文件采集實現(xiàn)。如果是僅僅是做日志的采集和分析，那么用elk解決方案 就完全夠用的。part 2.大數(shù)據(jù)預(yù)處理數(shù)據(jù)的世界是龐大而復(fù)雜的，也會有殘缺的，有虛假的，有過時的。想要獲得高質(zhì)量的分析挖掘結(jié)果，就必須在數(shù)據(jù)準(zhǔn)備階段提高數(shù)據(jù)的質(zhì)量。大數(shù)據(jù)預(yù)處理可以對采集到的原 始數(shù)據(jù)進行清洗、填補、平滑、合并、規(guī)格化以及檢查一致性等，將那些雜亂無章的數(shù)據(jù)轉(zhuǎn)

4、化為相對單一且便于處理的構(gòu)型，為后期的數(shù)據(jù)分析奠定基礎(chǔ)。數(shù)據(jù)預(yù)處理主要包括：數(shù)據(jù) 清理、數(shù)據(jù)集成、數(shù)據(jù)轉(zhuǎn)換以及數(shù)據(jù)規(guī)約四大部分。a. 數(shù)據(jù)清理數(shù)據(jù)清理主要包含遺漏值處理（缺少感興趣的屬性）、噪音數(shù)據(jù)處理（數(shù)據(jù)中存在著錯誤、或偏離期望值的數(shù)據(jù)）、不一致數(shù)據(jù)處理。主要的清洗工具是etl（extraction/transformation/loading）和 potter' s wheel o遺漏數(shù)據(jù)可用全局常量、屬性均值、可能值填充或者直接忽略該數(shù)據(jù)等方法處理;噪 音數(shù)據(jù)可用分箱（對原始數(shù)據(jù)進行分組，然后對每一組內(nèi)的數(shù)據(jù)進行平滑處理）、聚類、計 算機人工檢查和回歸等方法去除噪音;對于不一致

5、數(shù)據(jù)則可進行手動更正。b. 數(shù)據(jù)集成數(shù)據(jù)集成是指將多個數(shù)據(jù)源中的數(shù)據(jù)合并存放到一個一致的數(shù)據(jù)存儲庫中。這一過程 著重要解決三個問題：模式匹配、數(shù)據(jù)冗余、數(shù)據(jù)值沖突檢測與處理。來自多個數(shù)據(jù)集合的數(shù)據(jù)會因為命名的差異導(dǎo)致對應(yīng)的實體名稱不同，通常涉及實體 識別需要利用元數(shù)據(jù)來進行區(qū)分，對來源不同的實體進行匹配。數(shù)據(jù)冗余可能來源于數(shù)據(jù)屬 性命名的不一致，在解決過程中對于數(shù)值屬性可以利用皮爾遜積矩ra, b來衡量，絕對值 越大表明兩者之間相關(guān)性越強。數(shù)據(jù)值沖突問題，主要表現(xiàn)為來源不同的統(tǒng)一實體具有不同 的數(shù)據(jù)值。c. 數(shù)據(jù)變換數(shù)據(jù)轉(zhuǎn)換就是處理抽取上來的數(shù)據(jù)中存在的不一致的過程。數(shù)據(jù)轉(zhuǎn)換一般包括兩類： 第

6、一類，數(shù)據(jù)名稱及格式的統(tǒng)一，即數(shù)據(jù)粒度轉(zhuǎn)換、商務(wù)規(guī)則計算以及統(tǒng)一的命名、 數(shù)據(jù)格式、計量單位等;第二類，數(shù)據(jù)倉庫中存在源數(shù)據(jù)庫中可能不存在的數(shù)據(jù)，因此需要 進行字段的組合、分割或計算。數(shù)據(jù)轉(zhuǎn)換實際上還包含了數(shù)據(jù)清洗的工作，需要根據(jù)業(yè)務(wù)規(guī) 則對異常數(shù)據(jù)進行清洗，保證后續(xù)分析結(jié)果的準(zhǔn)確性。d. 數(shù)據(jù)規(guī)約數(shù)據(jù)歸約是指在盡可能保持?jǐn)?shù)據(jù)原貌的前提下，最大限度地精簡數(shù)據(jù)量，主要包括： 數(shù)據(jù)方聚集、維規(guī)約、數(shù)據(jù)壓縮、數(shù)值規(guī)約和概念分層等。數(shù)據(jù)規(guī)約技術(shù)可以用來得到數(shù)據(jù) 集的規(guī)約表示，使得數(shù)據(jù)集變小，但同時仍然近于保持原數(shù)據(jù)的完整性。也就是說，在規(guī)約 后的數(shù)據(jù)集上進行挖掘，依然能夠得到與使用原數(shù)據(jù)集近乎相同的分

7、析結(jié)果。part 3.大數(shù)據(jù)存儲大數(shù)據(jù)存儲與管理要用存儲器把采集到的數(shù)據(jù)存儲起來，建立相應(yīng)的數(shù)據(jù)庫，以便管 理和調(diào)用。大數(shù)據(jù)存儲技術(shù)路線最典型的共有三種：a. mpp架構(gòu)的新型數(shù)據(jù)庫集群采用mpp架構(gòu)的新型數(shù)據(jù)庫集群，重點面向行業(yè)大數(shù)據(jù)，采用shared nothing架構(gòu), 通過列存儲、粗粒度索引等多項大數(shù)據(jù)處理技術(shù)，再結(jié)合mpp架構(gòu)高效的分布式計算模式, 完成對分析類應(yīng)用的支撐，運行環(huán)境多為低成本pc server,具有高性能和高擴展性的特點, 在企業(yè)分析類應(yīng)用領(lǐng)域獲得極其廣泛的應(yīng)用。這類mpp產(chǎn)品可以有效支撐pb級別的結(jié)構(gòu) 化數(shù)據(jù)分析，這是傳統(tǒng)數(shù)據(jù)庫技術(shù)無法勝任的。對于企業(yè)新一代的數(shù)據(jù)倉

8、庫和結(jié)構(gòu)化數(shù)據(jù)分 析，目前最佳選擇是mpp數(shù)據(jù)庫。b. 基于hadoop的技術(shù)擴展和封裝基于hadoop的技術(shù)擴展和封裝，圍繞hadoop衍生出相關(guān)的大數(shù)據(jù)技術(shù)，應(yīng)對傳統(tǒng) 關(guān)系型數(shù)據(jù)庫較難處理的數(shù)據(jù)和場景，例如針對非結(jié)構(gòu)化數(shù)據(jù)的存儲和計算等，充分利用 hadoop開源的優(yōu)勢，伴隨相關(guān)技術(shù)的不斷進步，其應(yīng)用場景也將逐步擴大，目前最為典型 的應(yīng)用場景就是通過擴展和封裝hadoop來實現(xiàn)對互聯(lián)網(wǎng)大數(shù)據(jù)存儲、分析的支撐。這里面 有幾十種nosql技術(shù)，也在進一步的細分。對于非結(jié)構(gòu)、半結(jié)構(gòu)化數(shù)據(jù)處理、復(fù)雜的etl 流程、復(fù)雜的數(shù)據(jù)挖掘和計算模型，hadoop平臺更擅長。c. 大數(shù)據(jù)一體機這是一種專為大數(shù)

9、據(jù)的分析處理而設(shè)計的軟、硬件結(jié)合的產(chǎn)品，由一組集成的服務(wù)器、 存儲設(shè)備、操作系統(tǒng)、數(shù)據(jù)庫管理系統(tǒng)以及為數(shù)據(jù)查詢、處理、分析用途而預(yù)先安裝及優(yōu)化 的軟件組成，高性能大數(shù)據(jù)一體機具有良好的穩(wěn)定性和縱向擴展性。part 4.大數(shù)據(jù)分析挖掘數(shù)據(jù)的分析與挖掘主要目的是把隱藏在一大批看來雜亂無章的數(shù)據(jù)中的信息集中起 來，進行萃取、提煉，以找出潛在有用的信息和所研究對象的內(nèi)在規(guī)律的過程。主要從可視 化分析、數(shù)據(jù)挖掘算法、預(yù)測性分析、語義引擎以及數(shù)據(jù)質(zhì)量和數(shù)據(jù)管理五大方面進行著重 分析。a. 可視化分析數(shù)據(jù)可視化主要是借助于圖形化手段，清晰有效地傳達與溝通信息。主要應(yīng)用于海量 數(shù)據(jù)關(guān)聯(lián)分析，由于所涉及到的信息

10、比較分散、數(shù)據(jù)結(jié)構(gòu)有可能不統(tǒng)一，借助功能強大的可 視化數(shù)據(jù)分析平臺，可輔助人工操作將數(shù)據(jù)進行關(guān)聯(lián)分析，并做出完整的分析圖表，簡單明 了、清晰直觀，更易于接受。b. 數(shù)據(jù)挖掘算法數(shù)據(jù)挖掘算法是根據(jù)數(shù)據(jù)創(chuàng)建數(shù)據(jù)挖掘模型的一組試探法和計算。為了創(chuàng)建該模型， 算法將首先分析用戶提供的數(shù)據(jù)，針對特定類型的模式和趨勢進行查找。并使用分析結(jié)果定 義用于創(chuàng)建挖掘模型的最佳參數(shù)，將這些參數(shù)應(yīng)用于整個數(shù)據(jù)集，以便提取可行模式和詳細 統(tǒng)計信息。大數(shù)據(jù)分析的理論核心就是數(shù)據(jù)挖掘算法，數(shù)據(jù)挖掘的算法多種多樣，不同的算法基 于不同的數(shù)據(jù)類型和格式會呈現(xiàn)出數(shù)據(jù)所具備的不同特點。各類統(tǒng)計方法都能深入數(shù)據(jù)內(nèi) 部，挖掘出數(shù)據(jù)的價

11、值。c. 預(yù)測性分析大數(shù)據(jù)分析最重要的應(yīng)用領(lǐng)域之一就是預(yù)測性分析，預(yù)測性分析結(jié)合了多種高級分析 功能，包括特別統(tǒng)計分析、預(yù)測建模、數(shù)據(jù)挖掘、文本分析、實體分析、優(yōu)化、實時評分、 機器學(xué)習(xí)等，從而對未來，或其他不確定的事件進行預(yù)測。從紛繁的數(shù)據(jù)中挖掘出其特點，可以幫助我們了解目前狀況以及確定下一步的行動方 案，從依靠猜測進行決策轉(zhuǎn)變?yōu)橐揽款A(yù)測進行決策。它可幫助分析用戶的結(jié)構(gòu)化和非結(jié)構(gòu)化 數(shù)據(jù)中的趨勢、模式和關(guān)系，運用這些指標(biāo)來洞察預(yù)測將來事件，并作出相應(yīng)的措施。d. 語義引擎語義引擎是是把已有的數(shù)據(jù)加上語義，可以把它想象成在現(xiàn)有結(jié)構(gòu)化或者非結(jié)構(gòu)化的 數(shù)據(jù)庫上的一個語義疊加層。它語義技術(shù)最直接的應(yīng)用，可以將人們從繁瑣的搜索條目中解 放出來，讓用戶更快、更準(zhǔn)確、更全面地獲得所需信息，提高用戶的互聯(lián)網(wǎng)體驗。e. 數(shù)據(jù)質(zhì)量管理是指對數(shù)據(jù)從計劃、獲取、