大數(shù)據(jù)關鍵技術

1、大數(shù)據(jù)關鍵技術大數(shù)據(jù)技術，就是從各種類型的數(shù)據(jù)中快速獲得有價值信息的技 術。大數(shù)據(jù)領域已經(jīng)涌現(xiàn)出了大量新的技術，它們成為大數(shù)據(jù)采集、 存儲、處理和呈現(xiàn)的有力武器。大數(shù)據(jù)處理關鍵技術一般包括：大數(shù)據(jù)采集、大數(shù)據(jù)預處理、大 數(shù)據(jù)存儲及管理、大數(shù)據(jù)分析及挖掘、大數(shù)據(jù)展現(xiàn)和應用（大數(shù)據(jù)檢 索、大數(shù)據(jù)可視化、大數(shù)據(jù)應用、大數(shù)據(jù)安全等）。一、大數(shù)據(jù)米集技術數(shù)據(jù)是指通過RFID射頻數(shù)據(jù)、傳感器數(shù)據(jù)、社交網(wǎng)絡交互數(shù)據(jù) 及移動互聯(lián)網(wǎng)數(shù)據(jù)等方式獲得的各種類型的結(jié)構(gòu)化、半結(jié)構(gòu)化（或稱 之為弱結(jié)構(gòu)化）及非結(jié)構(gòu)化的海量數(shù)據(jù)，是大數(shù)據(jù)知識服務模型的根 本。重點要突破分布式高速高可靠數(shù)據(jù)爬取或采集、高速數(shù)據(jù) 全映像等大數(shù)據(jù)

2、收集技術；突破高速數(shù)據(jù)解析、轉(zhuǎn)換與裝載等 大數(shù)據(jù)整合技術；設計質(zhì)量評估模型，開發(fā)數(shù)據(jù)質(zhì)量技術。大數(shù)據(jù)采集一般分為大數(shù)據(jù)智能感知層：主要包括數(shù)據(jù)傳感體 系、網(wǎng)絡通信體系、傳感適配體系、智能識別體系及軟硬件資源接入 系統(tǒng)，實現(xiàn)對結(jié)構(gòu)化、半結(jié)構(gòu)化、非結(jié)構(gòu)化的海量數(shù)據(jù)的智能化識別、 定位、跟蹤、接入、傳輸、信號轉(zhuǎn)換、監(jiān)控、初步處理和管理等。必 須著重攻克針對大數(shù)據(jù)源的智能識別、感知、適配、傳輸、接入等技 術?；A支撐層：提供大數(shù)據(jù)服務平臺所需的虛擬服務器，結(jié)構(gòu)化、 半結(jié)構(gòu)化及非結(jié)構(gòu)化數(shù)據(jù)的數(shù)據(jù)庫及物聯(lián)網(wǎng)絡資源等基礎支撐環(huán)境。 重點攻克分布式虛擬存儲技術，大數(shù)據(jù)獲取、存儲、組織、分析和決 策操作的可視化

3、接口技術，大數(shù)據(jù)的網(wǎng)絡傳輸與壓縮技術，大數(shù)據(jù)隱 私保護技術等。二、大數(shù)據(jù)預處理技術主要完成對已接收數(shù)據(jù)的辨析、抽取、清洗等操作。1）抽?。阂颢@取的數(shù)據(jù)可能具有多種結(jié)構(gòu)和類型，數(shù)據(jù)抽取過程可以幫助我們 將這些復雜的數(shù)據(jù)轉(zhuǎn)化為單一的或者便于處理的構(gòu)型，以達到快速分 析處理的目的。2）清洗：對于大數(shù)據(jù)，并不全是有價值的，有些數(shù) 據(jù)并不是我們所關心的內(nèi)容，而另一些數(shù)據(jù)則是完全錯誤的干擾項， 因此要對數(shù)據(jù)通過過濾 “去噪”從而提取出有效數(shù)據(jù)。三、大數(shù)據(jù)存儲及管理技術大數(shù)據(jù)存儲與管理要用存儲器把采集到的數(shù)據(jù)存儲起來，建立相 應的數(shù)據(jù)庫，并進行管理和調(diào)用。重點解決復雜結(jié)構(gòu)化、半結(jié)構(gòu)化和 非結(jié)構(gòu)化大數(shù)據(jù)管理與

4、處理技術。主要解決大數(shù)據(jù)的可存儲、可表示、 可處理、可靠性及有效傳輸?shù)葞讉€關鍵問題。開發(fā)可靠的分布式文 件系統(tǒng)（DFS ）、能效優(yōu)化的存儲、計算融入存儲、大數(shù)據(jù)的去 冗余及高效低成本的大數(shù)據(jù)存儲技術；突破分布式非關系型大數(shù)據(jù)管理與處理技術，異構(gòu)數(shù)據(jù)的數(shù)據(jù)融合技術，數(shù)據(jù)組織技術， 研究大數(shù)據(jù)建模技術；突破大數(shù)據(jù)索引技術； 突破大數(shù)據(jù)移動、備份、復制等技術；開發(fā)大數(shù)據(jù)可視化技術。開發(fā)新型數(shù)據(jù)庫技術，數(shù)據(jù)庫分為關系型數(shù)據(jù)庫、非關系型數(shù)據(jù) 庫以及數(shù)據(jù)庫緩存系統(tǒng)。其中，非關系型數(shù)據(jù)庫主要指的是NoSQL數(shù)據(jù)庫，分為：鍵值數(shù)據(jù)庫、列存數(shù)據(jù)庫、圖存數(shù)據(jù)庫以及文檔數(shù)據(jù) 庫等類型。關系型數(shù)據(jù)庫包含了傳統(tǒng)關系數(shù)據(jù)

5、庫系統(tǒng)以及NewSQL數(shù)據(jù)庫。開發(fā)大數(shù)據(jù)安全技術。改進數(shù)據(jù)銷毀、透明加解密、分布 式訪問控制、數(shù)據(jù)審計等技術；突破隱私保護和推理控制、數(shù) 據(jù)真?zhèn)巫R別和取證、數(shù)據(jù)持有完整性驗證等技術。四、大數(shù)據(jù)分析及挖掘技術大數(shù)據(jù)分析技術。改進已有數(shù)據(jù)挖掘和機器學習技術；開 發(fā)數(shù)據(jù)網(wǎng)絡挖掘、 特異群組挖掘、 圖挖掘等新型數(shù)據(jù)挖掘技術； 突破基于對象的數(shù)據(jù)連接、相似性連接等大數(shù)據(jù)融合技術；突 破用戶興趣分析、網(wǎng)絡行為分析、情感語義分析等面向領域的 大數(shù)據(jù)挖掘技術。數(shù)據(jù)挖掘就是從大量的、不完全的、有噪聲的、模糊的、隨機的 實際應用數(shù)據(jù)中，提取隱含在其中的、人們事先不知道的、但又是潛 在有用的信息和知識的過程。數(shù)據(jù)挖

6、掘涉及的技術方法很多，有多種 分類法。根據(jù)挖掘任務可分為分類或預測模型發(fā)現(xiàn)、 數(shù)據(jù)總結(jié)、聚類、 關聯(lián)規(guī)則發(fā)現(xiàn)、序列模式發(fā)現(xiàn)、依賴關系或依賴模型發(fā)現(xiàn)、異常和趨 勢發(fā)現(xiàn)等等；根據(jù)挖掘?qū)ο罂煞譃殛P系數(shù)據(jù)庫、面向?qū)ο髷?shù)據(jù)庫、空 間數(shù)據(jù)庫、時態(tài)數(shù)據(jù)庫、文本數(shù)據(jù)源、多媒體數(shù)據(jù)庫、異質(zhì)數(shù)據(jù)庫、 遺產(chǎn)數(shù)據(jù)庫以及環(huán)球網(wǎng) Web ;根據(jù)挖掘方法分，可粗分為：機器學習 方法、統(tǒng)計方法、神經(jīng)網(wǎng)絡方法和數(shù)據(jù)庫方法。機器學習中，可細分 為:歸納學習方法（決策樹、規(guī)則歸納等）、基于范例學習、遺傳算法等。 統(tǒng)計方法中，可細分為:回歸分析（多元回歸、自回歸等）、判別分析（貝 葉斯判別、費歇爾判別、非參數(shù)判別等）、聚類分析（系統(tǒng)

7、聚類、動態(tài) 聚類等）、探索性分析（主元分析法、相關分析法等）等。神經(jīng)網(wǎng)絡方法 中，可細分為：前向神經(jīng)網(wǎng)絡（BP算法等）、自組織神經(jīng)網(wǎng)絡（自組織特 征映射、競爭學習等）等。數(shù)據(jù)庫方法主要是多維數(shù)據(jù)分析或 OLAP 方法，另外還有面向?qū)傩缘臍w納方法。從挖掘任務和挖掘方法的角度，著重突破：1.可視化分析。數(shù)據(jù) 可視化無論對于普通用戶或是數(shù)據(jù)分析專家， 都是最基本的功能。數(shù) 據(jù)圖像化可以讓數(shù)據(jù)自己說話，讓用戶直觀的感受到結(jié)果。2.數(shù)據(jù)挖掘算法。圖像化是將機器語言翻譯給人看，而數(shù)據(jù)挖掘就是機器的母 語。分割、集群、孤立點分析還有各種各樣五花八門的算法讓我們精 煉數(shù)據(jù)，挖掘價值。這些算法一定要能夠應付大數(shù)

8、據(jù)的量，同時還具 有很高的處理速度。3.預測性分析。預測性分析可以讓分析師根據(jù)圖 像化分析和數(shù)據(jù)挖掘的結(jié)果做出一些前瞻性判斷。4語義引擎。語義引擎需要設計到有足夠的人工智能以足以從數(shù)據(jù)中主動地提取信息。 語言處理技術包括機器翻譯、情感分析、輿情分析、智能輸入、問答 系統(tǒng)等。5數(shù)據(jù)質(zhì)量和數(shù)據(jù)管理。數(shù)據(jù)質(zhì)量與管理是管理的最佳實踐， 透過標準化流程和機器對數(shù)據(jù)進行處理可以確保獲得一個預設質(zhì)量 的分析結(jié)果。六、大數(shù)據(jù)展現(xiàn)與應用技術大數(shù)據(jù)技術能夠?qū)㈦[藏于海量數(shù)據(jù)中的信息和知識挖掘出來，為 人類的社會經(jīng)濟活動提供依據(jù)，從而提高各個領域的運行效率，大大 提高整個社會經(jīng)濟的集約化程度。 在我國，大數(shù)據(jù)將重點應用于以下 三大領域：商業(yè)智能、政府決策、公共服務。例如：商業(yè)智能技術， 政府決策技術，電信數(shù)據(jù)信息處理與挖掘技術，電網(wǎng)數(shù)據(jù)信息處理與 挖掘技術，氣象信息分析技術，環(huán)境監(jiān)測技術，警務云應用系統(tǒng)（道 路監(jiān)控、視頻監(jiān)控、網(wǎng)絡監(jiān)