淺析大數(shù)據(jù)時代數(shù)據(jù)管理面臨的新挑戰(zhàn)

1、    淺析大數(shù)據(jù)時代數(shù)據(jù)管理面臨的新挑戰(zhàn)    陳婧?王蘭花?郭鵬程伴隨物聯(lián)網(wǎng)、云計算和人工智能等技術的快速發(fā)展，以微博、微信等為代表的新型信息發(fā)布平臺的出現(xiàn)，數(shù)據(jù)正以前所未有的速度增長，在數(shù)據(jù)出現(xiàn)多源異構、動態(tài)增長等特點后，傳統(tǒng)的數(shù)據(jù)管理方式已經(jīng)不能滿足海量數(shù)據(jù)的需求，新的挑戰(zhàn)應運而生。一、大數(shù)據(jù)概述大數(shù)據(jù)（big data）術語早在20世紀80年代就已經(jīng)提出，nature雜志于2008年刊登了一篇題為“big data：science in the petabyte era”的文章后，大數(shù)據(jù)的概念才漸漸被人知曉。近年來，大數(shù)據(jù)的價值逐漸得到體現(xiàn)，成

2、為人們研究的重點領域。2008年，馬云通過整合旗下電子商務網(wǎng)站中的消費者訂單數(shù)據(jù)等信息，發(fā)現(xiàn)海外企業(yè)的采購量急劇下降，提前6個月的時間準確地預測出世界金融危機。2009年，google公司利用人們網(wǎng)上搜索的相關詞條，如咳嗽、發(fā)熱等，并依據(jù)檢索的頻率、時間和空間建立分析預測系統(tǒng)，成功預測出甲型h1n1流感病毒的爆發(fā)，及時發(fā)出預警信息。此類例子不勝枚舉。二、大數(shù)據(jù)時代面臨的新挑戰(zhàn)（一）數(shù)據(jù)集成的挑戰(zhàn)大數(shù)據(jù)背景下，數(shù)據(jù)集成有新的需求：1.廣泛的異構性。傳統(tǒng)的數(shù)據(jù)一般是結構性數(shù)據(jù)，處理技術也非常成熟，但在大數(shù)據(jù)時代，數(shù)據(jù)的類型出現(xiàn)了新的變化。2.數(shù)據(jù)從以往的多以結構化的形式體現(xiàn)逐漸向結構化、半結構化和

3、非結構化這三者的融合過度。3.數(shù)據(jù)越來越多樣，而多樣性的變化源于數(shù)據(jù)源的變化。傳統(tǒng)數(shù)據(jù)一般產(chǎn)生于個人pc或者服務器，這些設備較固定。隨著web 2.0技術的發(fā)展，移動智能終端（如智能手機、平板和gps導航儀等）的普及，數(shù)據(jù)量呈爆炸式增長，并開始具備跨時空的特性。（二）數(shù)據(jù)分析的挑戰(zhàn)傳統(tǒng)數(shù)據(jù)分析一般是在結構化數(shù)據(jù)上展開的，已經(jīng)形成了一套成熟的分析體系，例如聯(lián)機分析處理（on-line analytic processing，olap）模式。隨著大數(shù)據(jù)時代的到來，半結構化甚至非結構化的數(shù)據(jù)量猛增，傳統(tǒng)的分析技術已經(jīng)無法應付這些海量：1.數(shù)據(jù)處理的實時性。大數(shù)據(jù)時代，數(shù)據(jù)往往是具有時效性要求的，時間

4、越短，能夠從中獲得的數(shù)據(jù)價值越高。而在大數(shù)據(jù)分析方法上，沒有一個通用的實時處理框架。2.在動態(tài)變化環(huán)境中進行索引。大數(shù)據(jù)環(huán)境中，數(shù)據(jù)量是海量的，利用傳統(tǒng)的索引方式從海量不同類型的數(shù)據(jù)中找到一條想要的記錄是非常困難的，因此設計一種新的索引方式勢在必行。3.先驗知識的缺乏。大數(shù)據(jù)時代，數(shù)據(jù)多以半結構化和非結構化的形式存在，這些數(shù)據(jù)之間難以建立直接建立聯(lián)系，很多實時數(shù)據(jù)是以流的形式流入數(shù)據(jù)分析系統(tǒng)中，因此難有時間去建立先驗知識。（三）數(shù)據(jù)隱私與安全的挑戰(zhàn)個人隱私問題始終貫穿互聯(lián)網(wǎng)時代，在大數(shù)據(jù)時代，數(shù)據(jù)的隱私與安全問題更為嚴重。1.隱性數(shù)的暴露。在互聯(lián)網(wǎng)時代，隱私信息的保護一直是用戶擔憂的問題，尤其

5、是在社交網(wǎng)絡出現(xiàn)以后，使得用戶在不同地點和時間產(chǎn)生了越來越多的數(shù)據(jù)足跡。這種數(shù)據(jù)在一定程度的關聯(lián)和積累，將用戶在不同地點的行為聚集起來，用戶的隱私信息能夠被輕易的暴露出來，隱私信息泄露風險大大增加。2.數(shù)據(jù)公開與隱私保護之間存在的矛盾。若是為了保護隱私而將數(shù)據(jù)隱藏起來，數(shù)據(jù)就無法體現(xiàn)其價值。為了更有效的利用數(shù)據(jù)，需要進行數(shù)據(jù)公開，包括政府機構和一些企業(yè)在內(nèi)，都可以通過這些公開的數(shù)據(jù)知悉社會的需求和狀況，從而更好的利用大數(shù)據(jù)技術，例如阿里巴巴可以利用公開的數(shù)據(jù)了解客戶的需求，在線上進行更有針對性的產(chǎn)品推薦和銷售。大數(shù)據(jù)時代下，怎樣在保護隱私的前提下進行有效的數(shù)據(jù)分析和挖掘，是很難把握的。3.數(shù)據(jù)具備的動態(tài)性。之前的隱私保護多針對于靜態(tài)數(shù)據(jù)集，而在大數(shù)據(jù)時代下，數(shù)據(jù)類型的變化除了要有新的數(shù)據(jù)處理技術外，還給隱私保護帶來了巨大的挑戰(zhàn)。三、結語大數(shù)據(jù)時代的到來是技術發(fā)展的必然趨勢，利用大數(shù)據(jù)技術能夠獲得巨大的價值，為人們提供便利。但它也是一把雙刃劍。大數(shù)據(jù)環(huán)境下，數(shù)據(jù)量和數(shù)據(jù)類型與以往不一樣