Sark大數(shù)據(jù)的實現(xiàn)及行業(yè)應(yīng)用案例

目錄聯(lián)合實驗室大數(shù)據(jù)分析平臺產(chǎn)品技術(shù)架構(gòu)典型行業(yè)應(yīng)用案例中國科大-象形科技大數(shù)據(jù)商業(yè)智能聯(lián)合實驗室，由科大多位博導(dǎo)、教授領(lǐng)銜，集中了30位博士、碩士，20位大數(shù)據(jù)研發(fā)人員的聯(lián)合研發(fā)隊伍，在多個大數(shù)據(jù)技術(shù)領(lǐng)域進(jìn)行技術(shù)研究和成果轉(zhuǎn)化。聯(lián)合實驗室介紹技術(shù)基礎(chǔ)研究方向研究方向關(guān)鍵任務(wù)制高點大數(shù)據(jù)可視化挖掘1）新型內(nèi)存迭代數(shù)據(jù)挖掘算法2）數(shù)據(jù)挖掘可視化開發(fā)平臺3）房地產(chǎn)、金融、電信等機(jī)器學(xué)習(xí)模型研究1）基于內(nèi)存計算的機(jī)器學(xué)習(xí)算法2）行業(yè)大數(shù)據(jù)深度機(jī)器學(xué)習(xí)模型3）大數(shù)據(jù)可視化挖掘大數(shù)據(jù)內(nèi)存計算1）基于內(nèi)存的迭代算法研究2）內(nèi)存大數(shù)據(jù)高速統(tǒng)計分析技術(shù)1）基于大數(shù)據(jù)內(nèi)存的計算技術(shù)2）國內(nèi)產(chǎn)品領(lǐng)先大數(shù)據(jù)語義分析1）大數(shù)據(jù)自然語言識別2）非結(jié)構(gòu)化數(shù)據(jù)的知識發(fā)現(xiàn)、集成技術(shù)大數(shù)據(jù)平臺的可視化集成目前是空白領(lǐng)域大數(shù)據(jù)云計算技術(shù)1）大數(shù)據(jù)云計算平臺技術(shù)2）商業(yè)智能云平臺技術(shù)1）云BI技術(shù)及大數(shù)據(jù)平臺的核心技術(shù)研究2）大數(shù)據(jù)云BI在國內(nèi)應(yīng)用是未來趨勢，有望建成國內(nèi)第一家云BI平臺實驗室介紹-技術(shù)基礎(chǔ)研究方向產(chǎn)學(xué)研合作項目合作成果大數(shù)據(jù)環(huán)境下的無重疊視域跟蹤技術(shù)研究項目1）智慧城市合作2）9項大數(shù)據(jù)視頻專利3）多項國家自然科學(xué)基金4）大數(shù)據(jù)視頻分析平臺審計行業(yè)大數(shù)據(jù)知識推理系統(tǒng)

（國家863項目）課題《大數(shù)據(jù)環(huán)境下基于案例的知識推理平臺》申請國家863計劃審計數(shù)據(jù)中心平臺，全國推廣中。房地產(chǎn)大數(shù)據(jù)分析建立房產(chǎn)數(shù)據(jù)開發(fā)服務(wù)平臺，提供公眾服務(wù)。房地產(chǎn)價值評估。建立房產(chǎn)評估模型，房地產(chǎn)指數(shù)等模型。制造業(yè)大數(shù)據(jù)信息挖掘云圖制造業(yè)生產(chǎn)設(shè)備生命周期大數(shù)據(jù)分析。制造業(yè)信息云圖。碳交易平臺大數(shù)據(jù)碳金融算法與模型建立。碳交易與分析平臺。實驗室介紹-研究成果開創(chuàng)了基于人類視覺智能的動態(tài)目標(biāo)捕捉、跟蹤和行為分析的研究，在國內(nèi)外雜志、會議發(fā)表了多篇高水平論文。獲得視頻識別，知識學(xué)習(xí)與推理相關(guān)發(fā)明專利2項，申請發(fā)明專利7項。大數(shù)據(jù)環(huán)境下的無重疊視域跟蹤大數(shù)據(jù)技術(shù)，解決視頻領(lǐng)域的知識識別，知識發(fā)現(xiàn)，知識集成與跟蹤，推理等關(guān)鍵技術(shù)問題。多項國家自然科學(xué)基金大數(shù)據(jù)技術(shù)來實現(xiàn)國家經(jīng)濟(jì)免疫系統(tǒng)數(shù)據(jù)接口大數(shù)據(jù)知識推理系統(tǒng)疑點數(shù)據(jù)審計數(shù)據(jù)中心審計跨12個行業(yè)，跨地區(qū)數(shù)據(jù)源傳統(tǒng)審計大數(shù)據(jù)審計無法跨地區(qū)、跨行業(yè)審計跨行業(yè)、跨區(qū)域?qū)徲嬍潞髮徲?、周期性審計連續(xù)審計復(fù)雜性隱蔽問題難以發(fā)現(xiàn)智能化，具有預(yù)測功能依據(jù)小樣本經(jīng)驗地毯式排查大數(shù)據(jù)分析，建立抵御和預(yù)防手段審計行業(yè)大數(shù)據(jù)知識推理系統(tǒng)房地產(chǎn)大數(shù)據(jù)利用大數(shù)據(jù)建模技術(shù)，實現(xiàn)房地產(chǎn)價格指數(shù)、房地產(chǎn)評估模型碳交易利用大數(shù)據(jù)建模技術(shù)，建立全省碳排放計量監(jiān)測體系的數(shù)據(jù)體系、技術(shù)體系、模型體系和評估體系，形成滿足碳排放計量關(guān)系方程和參數(shù)目錄聯(lián)合實驗室大數(shù)據(jù)分析平臺產(chǎn)品技術(shù)架構(gòu)典型行業(yè)應(yīng)用案例數(shù)據(jù)挖掘越來越多的應(yīng)用到了各個領(lǐng)域中，主要包括與客戶關(guān)系管理相關(guān)的模型、與風(fēng)險控制相關(guān)的模型、與生產(chǎn)銷售預(yù)測相關(guān)的模型等數(shù)據(jù)挖掘應(yīng)用領(lǐng)域產(chǎn)品名產(chǎn)品ETHINK可視化挖掘掘概要通過在瀏覽覽器內(nèi)，鼠鼠標(biāo)拖拽形形式實現(xiàn)加加載數(shù)據(jù)、、轉(zhuǎn)換、建建模、評估估、圖形以以及結(jié)果輸輸出特點通過視覺工工作方式輕輕松獲得此此界面可以以保障操作作的靈活性性在最短的時時間內(nèi)形成成最多樣的的模型大數(shù)數(shù)據(jù)挖掘，，速度快關(guān)系型數(shù)據(jù)據(jù)庫數(shù)據(jù)挖掘模模型算法庫庫/語義分析Hbase/Hive/Hdfs可視化數(shù)據(jù)據(jù)挖掘平臺多維自助分分析調(diào)度管理SQL接口JDBC/ODBC內(nèi)存計算服服務(wù)Scala/Java/PythonOLAPServer手機(jī)平板電腦批處理實時流處理理交互式查詢詢統(tǒng)計分析平平臺ETHINK產(chǎn)品架構(gòu)特點一豐富建模方方法特點可拖拽式建建模JDBCWebServicesRestfulapi可擴(kuò)展性強(qiáng)強(qiáng)自定義模型型，擴(kuò)充組組件特點傳統(tǒng)的關(guān)系系型數(shù)據(jù)(mysql、Oracle等)列式數(shù)據(jù)庫庫(Hbase)非結(jié)構(gòu)化數(shù)數(shù)據(jù)(Hdfs、文件系統(tǒng)統(tǒng))大數(shù)據(jù)（Hbase、Hive）特點二大數(shù)據(jù)處理理特點開放型平臺臺BS結(jié)構(gòu)，一站站式建模、、評估、部部署基于Spark平臺內(nèi)存計算運算速度快快特點GBPB特點三大數(shù)據(jù)處理理能力特點基于Spark平臺內(nèi)存計算執(zhí)行數(shù)據(jù)挖挖掘時，方方法論非常常重要.因為準(zhǔn)確的的方法論能能夠提高作作業(yè)速度,能系統(tǒng)地減減少各種進(jìn)進(jìn)展?fàn)顩r，，所以選擇擇正確的方方法論是很很重要的.CRISP-DM方法論是全全球認(rèn)可的的數(shù)據(jù)挖掘掘的標(biāo)準(zhǔn)執(zhí)執(zhí)行方法論論.功能模塊金融電信行業(yè)1.信用卡用戶流失預(yù)測2.基于客戶分群的精準(zhǔn)智能營銷3.基于公司價值評價的證券策略投資電力行業(yè)1.電力負(fù)荷預(yù)測2.自適應(yīng)防竊漏電實時診斷互聯(lián)網(wǎng)行業(yè)1.電子商務(wù)網(wǎng)站用戶行為分析2.基于用戶行為分析的定向廣告投放3.企業(yè)信息系統(tǒng)用戶服務(wù)感知評估

制造業(yè)行業(yè)1.制造設(shè)備生命周祺管理2.制造業(yè)投入產(chǎn)出預(yù)測公共服務(wù)業(yè)

1.空氣質(zhì)量預(yù)測2.卷煙消費者購買行為分析3.納稅人偷稅漏稅評估場景應(yīng)用（（實驗室模模擬實驗課課題）目錄聯(lián)合實驗室大數(shù)據(jù)分析平臺產(chǎn)品技術(shù)架構(gòu)典型行業(yè)應(yīng)用案例交互式查詢實時在線處理實時流處理

批處理基于spark內(nèi)存的計算算模型，同同時支持批批處理、交交互式處理理、流處理理。技術(shù)架構(gòu)解解決方案-要解決的問問題技術(shù)架構(gòu)解解決方案-分布式內(nèi)存存計算批處理應(yīng)用用（分鐘級別別~小時級別））OLTP/在線事務(wù)處處理應(yīng)用（毫秒~秒級別）OLAP/在線交互式式分析應(yīng)用用（秒級別））實時流處理理（持續(xù)不斷斷）技術(shù)架構(gòu)解解決方案-交互式查詢詢通常的時間間跨度在數(shù)數(shù)十秒到數(shù)數(shù)分鐘之間間按數(shù)據(jù)維度度進(jìn)行統(tǒng)計計、聚合根據(jù)歷史數(shù)數(shù)據(jù)進(jìn)行擬擬合和預(yù)測測計算數(shù)據(jù)之之間的相關(guān)關(guān)性和模式式等適合提供高高速在線分分析服典型應(yīng)用場場景政府各部門門數(shù)據(jù)證券交易銀行保險企業(yè)ERP/CRM等適用于數(shù)據(jù)據(jù)量在GB到TB的高速數(shù)據(jù)據(jù)分析技術(shù)架構(gòu)解解決方案-實時在線處處理通常的時間間跨度在數(shù)數(shù)百毫秒到到數(shù)秒之間間數(shù)據(jù)來源多多、高并發(fā)發(fā)、數(shù)據(jù)處處理量達(dá)分析結(jié)果快快速響應(yīng)典型應(yīng)用場場景社交網(wǎng)絡(luò)分分析、關(guān)聯(lián)聯(lián)關(guān)系分析析用戶分類、、用戶行為為預(yù)測高并發(fā)查詢詢按主鍵毫秒秒級檢索按多維度秒秒級檢索按照關(guān)鍵字字秒級檢索索事件驅(qū)動計計算模型，，系統(tǒng)處于于持續(xù)不斷斷計算之中中，事件響響應(yīng)延遲在在毫秒~秒級。流式計算系系統(tǒng)處理應(yīng)應(yīng)用的處理理邏輯是由由源源不斷斷的數(shù)據(jù)流流驅(qū)動。典型應(yīng)用場場景有金融在線線欺詐預(yù)警警廣告CTR推薦系統(tǒng)技術(shù)架構(gòu)解解決方案-實時流處理理技術(shù)架構(gòu)解解決方案-批處理及離離線挖掘時間跨度在在數(shù)十分鐘鐘到數(shù)小時時之間。離線挖掘主主要用于，，多維統(tǒng)計計預(yù)測，準(zhǔn)準(zhǔn)實時分析析以及對客客戶進(jìn)行聚聚類、分類類等數(shù)據(jù)挖挖掘應(yīng)用。。典型應(yīng)用場場景電子商務(wù)推推薦引擎流失客戶預(yù)預(yù)測挽留日志清洗、、ETL用戶行為分分析目錄聯(lián)合實驗室大數(shù)據(jù)分析平臺產(chǎn)品技術(shù)架構(gòu)典型行業(yè)應(yīng)用案例項目需求將總行下發(fā)發(fā)的數(shù)據(jù)及及核心業(yè)務(wù)務(wù)數(shù)據(jù)，經(jīng)經(jīng)過數(shù)據(jù)整整理、加載載到省級數(shù)數(shù)據(jù)中心，，并進(jìn)行各各項業(yè)務(wù)快快速應(yīng)用開開發(fā)數(shù)據(jù)源某省公積金金中心，近近五年的操操作、交易易記錄，共共10億條左右。。系統(tǒng)環(huán)境4臺X86架構(gòu)的PC服務(wù)器，共共128G內(nèi)存單臺服務(wù)器器，8核CPU,32G內(nèi)存解決方案Hbase導(dǎo)入海量數(shù)數(shù)據(jù)，并支支撐大數(shù)據(jù)據(jù)查詢可視化設(shè)計計、可視化化報表實現(xiàn)現(xiàn)了數(shù)據(jù)的的實時分析析行業(yè)應(yīng)用案案例-金融行業(yè)應(yīng)用案案例-金融系統(tǒng)由對公公客戶綜合合積分子系系統(tǒng)、展業(yè)業(yè)通客戶綜綜合收益分分析子系統(tǒng)統(tǒng)、授信客客戶資金結(jié)結(jié)算子系統(tǒng)統(tǒng)、對公柜柜面交易流流水分析子子系統(tǒng)等組組成行業(yè)應(yīng)用案案例-金融項目需求整合第三方方支付數(shù)據(jù)據(jù)資源，分分析挖掘客客戶交易、、反饋信息息、交易行行等數(shù)據(jù)，，實現(xiàn)精準(zhǔn)準(zhǔn)營銷，最最大限度地地提升產(chǎn)品品價值數(shù)據(jù)源某第三方支支付平臺交交易、反饋饋數(shù)據(jù)，月月交易記錄錄量1億條。系統(tǒng)環(huán)境６臺X86架構(gòu)的PC服務(wù)器，共共96G內(nèi)存單臺服務(wù)器器，8核CPU,16G內(nèi)存解決方案Hbase導(dǎo)入海量數(shù)數(shù)據(jù)，并支支撐大數(shù)據(jù)據(jù)查詢Hive對歷史交易易數(shù)據(jù)進(jìn)行行分析可視化設(shè)計計、可視化化報表實現(xiàn)現(xiàn)數(shù)據(jù)的實實時分析基于于ETHINK可視視化化挖挖掘掘平平臺臺，，完完成成精精準(zhǔn)準(zhǔn)營營銷銷建建模模持卡卡客客戶戶多多維維分分析析：：持卡卡客客戶戶人人口口統(tǒng)統(tǒng)計計特特征征分分析析持卡卡客客戶戶交交易易行行為為模模式式分分析析持卡卡客客戶戶應(yīng)應(yīng)用用場場景景分分析析特約約商商戶戶多多維維分分析析：：商戶戶基基本本信信息息分分析析/商戶戶業(yè)業(yè)務(wù)務(wù)收收益益分分析析商戶戶價價值值貢貢獻(xiàn)獻(xiàn)度度評評估估／／商商戶戶收收單單風(fēng)風(fēng)險險分分析析持卡卡客客戶戶和和特特約約商商戶戶雙雙向向分分析析特定定特特征征客客戶戶特特定定時時間間消消費費商商戶戶分分布布分分析析特定定時時間間在在特特定定商商戶戶消消費費的的客客戶戶特特征征分分析析行業(yè)業(yè)應(yīng)應(yīng)用用案案例例-金融融項目目需需求求煙草草工工業(yè)業(yè)企企業(yè)業(yè)目目前前積積累累了了大大量量的的數(shù)數(shù)據(jù)據(jù)信信息息，，管管理理方方式式由由粗粗放放式式管管理理轉(zhuǎn)轉(zhuǎn)為為精精細(xì)細(xì)化化管管理理，，產(chǎn)產(chǎn)生生了了利利用用大大數(shù)數(shù)據(jù)據(jù)技技術(shù)術(shù)收收集集、、管管理理和和展展示示分分析析結(jié)結(jié)構(gòu)構(gòu)化化和和非非結(jié)結(jié)構(gòu)構(gòu)化化的的數(shù)數(shù)據(jù)據(jù)和和信信息息的的訴訴求求，，于于是是如如何何利利用用這這些些數(shù)數(shù)據(jù)據(jù)創(chuàng)創(chuàng)造造更更大大的的價價值值、、為為領(lǐng)領(lǐng)導(dǎo)導(dǎo)決決策策和和企企業(yè)業(yè)精精益益管管理理提提供供有有力力支支撐撐成成為為重重要要的的課課題題。數(shù)據(jù)據(jù)存存儲儲近1年數(shù)數(shù)據(jù)據(jù)，，每每秒秒鐘鐘10000個數(shù)數(shù)據(jù)據(jù)采采集集點點系統(tǒng)統(tǒng)環(huán)環(huán)境境硬件件環(huán)環(huán)境境：：數(shù)數(shù)據(jù)據(jù)庫庫服服務(wù)務(wù)器器1臺+4臺分分布布式式pcserver單臺臺4核，，16G內(nèi)存存解決決方方案案流處處理理模模塊塊處處理理