金融大數(shù)據(jù)日志分析基本設計說明書

金融大數(shù)據(jù)日志分析項目基本設計說明書XX科技股份有限公司編制目錄金融大數(shù)據(jù)日志分析分析項目 2(一) 金融大數(shù)據(jù)日志分析分析項目中心架構 2(二) 數(shù)據(jù)處理流程 3(三) 網(wǎng)絡拓撲圖 4數(shù)據(jù)生產(chǎn)展示 5數(shù)據(jù)采集展示 5數(shù)據(jù)分析展示 7數(shù)據(jù)可視化展示 71. 權限管理： 72. 金融大數(shù)據(jù)日志分析： 9項目安排 11

金融大數(shù)據(jù)日志分析分析項目金融大數(shù)據(jù)日志分析分析項目中心架構圖1金融大數(shù)據(jù)日志分析分析架構圖數(shù)據(jù)生產(chǎn)模塊：dataSource金融大數(shù)據(jù)日志分析數(shù)據(jù)源。數(shù)據(jù)采集/存儲模塊：通過Flume采集數(shù)據(jù)到Kafka集群，然后由HBASE消費Kafka集群中的數(shù)據(jù)。數(shù)據(jù)離線分析模塊：將數(shù)據(jù)經(jīng)過清洗轉(zhuǎn)換后存儲到Hive數(shù)據(jù)倉庫中，然后提取其中需要展示的數(shù)據(jù)到MySQL數(shù)據(jù)庫。系統(tǒng)展示模塊：通過前端技術jquery、ajax、echarts進行數(shù)據(jù)展示。數(shù)據(jù)處理流程數(shù)據(jù)導入處理數(shù)據(jù)采集系統(tǒng)獲取原始數(shù)據(jù)數(shù)據(jù)導入處理數(shù)據(jù)采集系統(tǒng)獲取原始數(shù)據(jù)數(shù)據(jù)獲取數(shù)據(jù)獲取數(shù)據(jù)展示數(shù)據(jù)展示金融大金融大數(shù)據(jù)日志分析數(shù)據(jù)分析系統(tǒng)展示數(shù)據(jù)展示數(shù)據(jù)圖2金融大數(shù)據(jù)日志分析分析項目數(shù)據(jù)處理流程圖網(wǎng)絡拓撲圖圖3金融大數(shù)據(jù)日志分析分析項目網(wǎng)絡拓撲圖數(shù)據(jù)生產(chǎn)展示圖4獲取數(shù)據(jù)并去掉敏感詞通過函數(shù)生成金融大數(shù)據(jù)日志分析數(shù)據(jù)，需配置生成文件名和生成路徑。數(shù)據(jù)采集展示圖5flume采集圖6kafka集群待消費數(shù)據(jù) 圖7HBASE存儲數(shù)據(jù)1圖8HBASE存儲數(shù)據(jù)2通過flume將客戶數(shù)據(jù)采集到kafka集群，然后使用Hbase消費kafka集群數(shù)據(jù)。數(shù)據(jù)分析展示圖9Mysql分析數(shù)據(jù)使用MapReduce將HBASE中的數(shù)據(jù)，經(jīng)過清洗、分析之后存儲到MySQL數(shù)據(jù)庫中。數(shù)據(jù)可視化展示權限管理：資源管理：對系統(tǒng)菜單進行管理，可資源進行添加、修改等操作。圖10資源管理界面截圖角色管理：是系統(tǒng)角色信息管理地方，在此可對系統(tǒng)的角色進行添加、刪除、修改等操作，以及可以修改角色的查看權限。圖11角色管理界面截圖用戶管理：對系統(tǒng)用戶進行管理。圖12用戶管理界面截圖金融大數(shù)據(jù)日志分析：業(yè)務分析功能包括：使用圖形展示各種金融業(yè)務種類占比情況。資金分析功能包括：使用圖形展示各家機構在不同時間資金金額趨勢情況。渠道分析功能包括：使用圖形展示各家渠道在不同時間渠道金額趨勢情況。金額分析功能包括：使用圖形展示各家機構在今日、累計投放金額趨勢情況。地區(qū)業(yè)務分析功能包括：使用圖形展示各個地區(qū)業(yè)務數(shù)量情況。申贖分析功能包括：使用圖形展示各個申贖類型種類占比情況。銷售分析功能包括：使用圖形展示各個銷售平臺占比情況。項目安排階段步驟內(nèi)容時間備注需求分析初步調(diào)研根據(jù)商業(yè)需求確定網(wǎng)站平臺需求功能第一周詳細需求分析根據(jù)初步調(diào)研完成具體需求文檔第2-4周項目開發(fā)項目研發(fā)根據(jù)需求文檔進行項目的設計以及開發(fā)工作第4-14周測試項目測試根據(jù)測試文檔進