ETHINK可視化挖掘,Spark大數(shù)據(jù)的實現(xiàn)及行業(yè)應用案例31

1、目錄聯(lián)合實驗室大數(shù)據(jù)分析平臺產(chǎn)品技術架構典型行業(yè)應用案例中國科大-象形科技大數(shù)據(jù)商業(yè)智能聯(lián)合實驗室，由科大多位博導、教授領銜，集中了30位博士、碩士，20位大數(shù)據(jù)研發(fā)人員的聯(lián)合研發(fā)隊伍，在多個大數(shù)據(jù)技術領域進行技術研究和成果轉化。聯(lián)合實驗室介紹技術基礎研究方向研究方向關鍵任務制高點大數(shù)據(jù)可視化挖掘1）新型內存迭代數(shù)據(jù)挖掘算法2）數(shù)據(jù)挖掘可視化開發(fā)平臺3）房地產(chǎn)、金融、電信等機器學習模型研究1）基于內存計算的機器學習算法2）行業(yè)大數(shù)據(jù)深度機器學習模型3）大數(shù)據(jù)可視化挖掘大數(shù)據(jù)內存計算1）基于內存的迭代算法研究2）內存大數(shù)據(jù)高速統(tǒng)計分析技術1）基于大數(shù)據(jù)內存的計算技術2）國內產(chǎn)品領先大數(shù)據(jù)語義分析

2、1）大數(shù)據(jù)自然語言識別2）非結構化數(shù)據(jù)的知識發(fā)現(xiàn)、集成技術大數(shù)據(jù)平臺的可視化集成目前是空白領域大數(shù)據(jù)云計算技術1）大數(shù)據(jù)云計算平臺技術2）商業(yè)智能云平臺技術1）云BI技術及大數(shù)據(jù)平臺的核心技術研究2）大數(shù)據(jù)云BI在國內應用是未來趨勢，有望建成國內第一家云BI平臺實驗室介紹-技術基礎研究方向產(chǎn)學研合作項目合作成果大數(shù)據(jù)環(huán)境下的無重疊視域跟蹤技術研究項目1）智慧城市合作2）9項大數(shù)據(jù)視頻專利3）多項國家自然科學基金4）大數(shù)據(jù)視頻分析平臺審計行業(yè)大數(shù)據(jù)知識推理系統(tǒng) （國家863項目）課題大數(shù)據(jù)環(huán)境下基于案例的知識推理平臺申請國家863計劃審計數(shù)據(jù)中心平臺，全國推廣中。房地產(chǎn)大數(shù)據(jù)分析建立房產(chǎn)數(shù)據(jù)開發(fā)

3、服務平臺，提供公眾服務。房地產(chǎn)價值評估。建立房產(chǎn)評估模型，房地產(chǎn)指數(shù)等模型。制造業(yè)大數(shù)據(jù)信息挖掘云圖制造業(yè)生產(chǎn)設備生命周期大數(shù)據(jù)分析。制造業(yè)信息云圖。碳交易平臺大數(shù)據(jù)碳金融算法與模型建立。碳交易與分析平臺。實驗室介紹-研究成果開創(chuàng)了基于人類視覺智能的動態(tài)目標捕捉、跟蹤和行為分析的研究，在國內外雜志、會議發(fā)表了多篇高水平論文。獲得視頻識別，知識學習與推理相關發(fā)明專利2項，申請發(fā)明專利7項。大數(shù)據(jù)環(huán)境下的無重疊視域跟蹤大數(shù)據(jù)技術，解決視頻領域的知識識別，知識發(fā)現(xiàn)，知識集成與跟蹤，推理等關鍵技術問題。多項國家自然科學基金大數(shù)據(jù)技術來實現(xiàn)國家經(jīng)濟免疫系統(tǒng)數(shù)據(jù)接口大數(shù)據(jù)知識推理系統(tǒng)疑點數(shù)據(jù)審計數(shù)據(jù)中心審

4、計跨12個行業(yè)，跨地區(qū)數(shù)據(jù)源傳統(tǒng)審計大數(shù)據(jù)審計無法跨地區(qū)、跨行業(yè)審計跨行業(yè)、跨區(qū)域審計事后審計、周期性審計連續(xù)審計復雜性隱蔽問題難以發(fā)現(xiàn)智能化，具有預測功能依據(jù)小樣本經(jīng)驗地毯式排查大數(shù)據(jù)分析，建立抵御和預防手段審計行業(yè)大數(shù)據(jù)知識推理系統(tǒng) 房地產(chǎn)大數(shù)據(jù)利用大數(shù)據(jù)建模技術，實現(xiàn)房地產(chǎn)價格指數(shù)、房地產(chǎn)評估模型碳交易利用大數(shù)據(jù)建模技術，建立全省碳排放計量監(jiān)測體系的數(shù)據(jù)體系、技術體系、模型體系和評估體系，形成滿足碳排放計量關系方程和參數(shù)目錄聯(lián)合實驗室大數(shù)據(jù)分析平臺產(chǎn)品技術架構典型行業(yè)應用案例數(shù)據(jù)挖掘越來越多的應用到了各個領域中，主要包括與客戶關系管理相關的模型、與風險控制相關的模型、與生產(chǎn)銷售預測相關的

5、模型等數(shù)據(jù)挖掘應用領域產(chǎn)品名產(chǎn)品ETHINK可視化挖掘概要通過在瀏覽器內，鼠標拖拽形式實現(xiàn)加載數(shù)據(jù)、轉換、建模、評估、圖形以及結果輸出特點通過視覺工作方式輕松獲得此界面可以保障操作的靈活性在最短的時間內形成最多樣的模型大數(shù)據(jù)挖掘，速度快關系型數(shù)據(jù)庫數(shù)據(jù)挖掘模型算法庫/語義分析 Hbase/Hive/Hdfs 可視化數(shù)據(jù)挖掘平臺 多維自助分析調度管理SQL接口JDBC/ODBC內存計算服務Scala /Java/PythonOLAP Server手機平板電腦批處理實時流處理交互式查詢統(tǒng)計分析平臺ETHINK產(chǎn)品架構特點一豐富建模方法特點可拖拽式建模JDBCWeb ServicesRestful

6、api可擴展性強自定義模型，擴充組件特點傳統(tǒng)的關系型數(shù)據(jù)(mysql、Oracle等)列式數(shù)據(jù)庫(Hbase)非結構化數(shù)據(jù)(Hdfs、文件系統(tǒng))大數(shù)據(jù)（Hbase、Hive）特點二大數(shù)據(jù)處理特點開放型平臺BS結構，一站式建模、評估、部署基于Spark平臺內存計算運算速度快特點GBPB特點三大數(shù)據(jù)處理能力特點基于Spark平臺內存計算執(zhí)行數(shù)據(jù)挖掘時，方法論非常重要. 因為準確的方法論能夠提高作業(yè)速度, 能系統(tǒng)地減少各種進展狀況，所以選擇正確的方法論是很重要的. CRISP-DM 方法論是全球認可的數(shù)據(jù)挖掘的標準執(zhí)行方法論.功能模塊金融電信行業(yè) 1.信用卡用戶流失預測 2.基于客戶分群的精準智能營

7、銷 3.基于公司價值評價的證券策略投資 電力行業(yè) 1.電力負荷預測 2.自適應防竊漏電實時診斷互聯(lián)網(wǎng)行業(yè) 1.電子商務網(wǎng)站用戶行為分析 2.基于用戶行為分析的定向廣告投放 3.企業(yè)信息系統(tǒng)用戶服務感知評估 制造業(yè)行業(yè) 1.制造設備生命周祺管理 2.制造業(yè)投入產(chǎn)出預測 公共服務業(yè) 1.空氣質量預測 2.卷煙消費者購買行為分析 3.納稅人偷稅漏稅評估場景應用（實驗室模擬實驗課題）目錄聯(lián)合實驗室大數(shù)據(jù)分析平臺產(chǎn)品技術架構典型行業(yè)應用案例 交互式查詢 實時 在線處理 實時 流處理 批處理基于spark內存的計算模型，同時支持批處理、交互式處理、流處理。技術架構解決方案-要解決的問題技術架構解決方案-分

8、布式內存計算批處理應用（分鐘級別小時級別）OLTP/在線事務處理應用（毫秒秒級別）OLAP/在線交互式分析應用（秒級別）實時流處理（持續(xù)不斷）技術架構解決方案-交互式查詢通常的時間跨度在數(shù)十秒到數(shù)分鐘之間按數(shù)據(jù)維度進行統(tǒng)計、聚合根據(jù)歷史數(shù)據(jù)進行擬合和預測計算數(shù)據(jù)之間的相關性和模式等適合提供高速在線分析服典型應用場景政府各部門數(shù)據(jù)證券交易銀行保險企業(yè)ERP/CRM等適用于數(shù)據(jù)量在GB到TB的高速數(shù)據(jù)分析技術架構解決方案-實時在線處理通常的時間跨度在數(shù)百毫秒到數(shù)秒之間數(shù)據(jù)來源多、高并發(fā)、數(shù)據(jù)處理量達分析結果快速響應典型應用場景 社交網(wǎng)絡分析、關聯(lián)關系分析用戶分類、用戶行為預測高并發(fā)查詢按主鍵毫秒級

9、檢索按多維度秒級檢索按照關鍵字秒級檢索事件驅動計算模型，系統(tǒng)處于持續(xù)不斷計算之中，事件響應延遲在毫秒秒級。流式計算系統(tǒng)處理應用的處理邏輯是由源源不斷的數(shù)據(jù)流驅動。典型應用場景有金融在線欺詐預警廣告CTR推薦系統(tǒng)技術架構解決方案-實時流處理技術架構解決方案-批處理及離線挖掘時間跨度在數(shù)十分鐘到數(shù)小時之間。離線挖掘主要用于，多維統(tǒng)計預測，準實時分析以及對客戶進行聚類、分類等數(shù)據(jù)挖掘應用。典型應用場景電子商務推薦引擎流失客戶預測挽留日志清洗、ETL用戶行為分析目錄聯(lián)合實驗室大數(shù)據(jù)分析平臺產(chǎn)品技術架構典型行業(yè)應用案例項目需求將總行下發(fā)的數(shù)據(jù)及核心業(yè)務數(shù)據(jù)，經(jīng)過數(shù)據(jù)整理、加載到省級數(shù)據(jù)中心，并進行各項業(yè)

10、務快速應用開發(fā)數(shù)據(jù)源某省公積金中心，近五年的操作、交易記錄，共10億條左右。系統(tǒng)環(huán)境4臺X86架構的PC服務器，共128G內存單臺服務器，8核CPU,32G內存解決方案Hbase導入海量數(shù)據(jù)，并支撐大數(shù)據(jù)查詢可視化設計、可視化報表實現(xiàn)了數(shù)據(jù)的實時分析行業(yè)應用案例-金融 行業(yè)應用案例-金融系統(tǒng)由對公客戶綜合積分子系統(tǒng)、展業(yè)通客戶綜合收益分析子系統(tǒng)、授信客戶資金結算子系統(tǒng)、對公柜面交易流水分析子系統(tǒng)等組成行業(yè)應用案例-金融項目需求整合第三方支付數(shù)據(jù)資源，分析挖掘客戶交易、反饋信息、交易行等數(shù)據(jù)，實現(xiàn)精準營銷，最大限度地提升產(chǎn)品價值數(shù)據(jù)源某第三方支付平臺交易、反饋數(shù)據(jù)，月交易記錄量1億條。系統(tǒng)環(huán)境臺

11、X86架構的PC服務器，共96G內存單臺服務器，8核CPU,16G內存解決方案Hbase導入海量數(shù)據(jù)，并支撐大數(shù)據(jù)查詢Hive對歷史交易數(shù)據(jù)進行分析可視化設計、可視化報表實現(xiàn)數(shù)據(jù)的實時分析基于ETHINK可視化挖掘平臺，完成精準營銷建模持卡客戶多維分析：持卡客戶人口統(tǒng)計特征分析持卡客戶交易行為模式分析持卡客戶應用場景分析特約商戶多維分析：商戶基本信息分析/商戶業(yè)務收益分析商戶價值貢獻度評估商戶收單風險分析持卡客戶和特約商戶雙向分析特定特征客戶特定時間消費商戶分布分析特定時間在特定商戶消費的客戶特征分析行業(yè)應用案例-金融項目需求煙草工業(yè)企業(yè)目前積累了大量的數(shù)據(jù)信息，管理方式由粗放式管理轉為精細化管理，產(chǎn)生了利用大數(shù)據(jù)技術收集、管理和展示分析結構化和非結構化的數(shù)據(jù)和信息的訴求，于是如何利用這些數(shù)據(jù)創(chuàng)造更大的價值、為領導決策和企業(yè)精益管理提供有力支撐成為重要的課題。數(shù)據(jù)存儲近1年數(shù)據(jù)，每秒鐘10000個數(shù)據(jù)采集點系統(tǒng)環(huán)境硬件環(huán)境： 數(shù)據(jù)庫服務器1臺+4臺分布式pc server單臺4核，16G內