版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
四川電信企業(yè)級(jí)大數(shù)據(jù)中心整體規(guī)劃讓數(shù)據(jù)產(chǎn)生美!MaketheDataWonderful!目錄行業(yè)標(biāo)桿重點(diǎn)措施規(guī)劃思路回顧總結(jié)亞馬遜與數(shù)據(jù)湖AWS在云上為企業(yè)構(gòu)建數(shù)據(jù)湖提供服務(wù)收集和存儲(chǔ)任何類型的數(shù)據(jù),在任何規(guī)模,并以低成本保護(hù)數(shù)據(jù)并防止未經(jīng)授權(quán)的訪問(wèn)目錄,搜索,并在中央存儲(chǔ)庫(kù)中查找相關(guān)數(shù)據(jù)。快速輕松地執(zhí)行新類型的數(shù)據(jù)分析使用廣泛的分析引擎進(jìn)行臨時(shí)分析,實(shí)時(shí)流,預(yù)測(cè)分析,人工智能(AI)和機(jī)器學(xué)習(xí)AWS上的數(shù)據(jù)湖可以幫助您AmazonKinesisAmazonS3AmazonGlacierIAMEncryptedDataSecurityTokenServiceAWSLambdaSearchIndexMetadataIndexAPIGatewayUsersUI-ElasticBeanstalkKMSCollect
&StoreCatalogue&SearchEntitlements&AccessControlsAPIs&UI數(shù)據(jù)湖(DataLake)的概念在2011年提出后被Gartner、哈佛大學(xué)等國(guó)際組織和學(xué)校發(fā)揚(yáng)光大,并被國(guó)內(nèi)外的多個(gè)企業(yè)如IBM、EMC、普華永道等所采用并實(shí)踐;數(shù)據(jù)湖被多個(gè)國(guó)際組織和企業(yè)所采用亞馬遜與數(shù)據(jù)湖Netflix(AWS構(gòu)建數(shù)據(jù)湖案例)應(yīng)用場(chǎng)景Netflix通過(guò)AWS構(gòu)建數(shù)據(jù)湖總體架構(gòu)全球領(lǐng)先的互聯(lián)網(wǎng)在線影視服務(wù)供應(yīng)商,在美國(guó)有超過(guò)3千萬(wàn)的訂閱用戶。AWS的通過(guò)云計(jì)算、數(shù)據(jù)湖吸引和支撐了Netflix這樣規(guī)模的客戶。S3作為數(shù)據(jù)湖可以針對(duì)不同的工作負(fù)載彈性配置多個(gè)Hadoop集群阿里巴巴與數(shù)據(jù)中臺(tái)阿里數(shù)據(jù)中臺(tái),基于數(shù)據(jù)驅(qū)動(dòng)的理念統(tǒng)籌設(shè)計(jì),融合全域數(shù)據(jù)并按垂直業(yè)務(wù)類型進(jìn)行劃分,完成服務(wù)化封裝。各業(yè)務(wù)前端根據(jù)商業(yè)訴求,彈性調(diào)用封裝后的數(shù)據(jù)能力,快速響應(yīng)市場(chǎng)變化,快速創(chuàng)新構(gòu)建數(shù)據(jù)中臺(tái),賦能前端業(yè)務(wù)依托能力中臺(tái),凸顯大數(shù)據(jù)價(jià)值ZJ移動(dòng)2018按照“能力為根、安全為本、價(jià)值為魂”原則,基于企業(yè)級(jí)大數(shù)據(jù)平臺(tái)積極探索集中化數(shù)據(jù)管理,對(duì)內(nèi)服務(wù)精益運(yùn)營(yíng)、對(duì)外賦能行業(yè)發(fā)展,實(shí)現(xiàn)價(jià)值變現(xiàn)和規(guī)模運(yùn)營(yíng)。平臺(tái)能力:企業(yè)級(jí)大數(shù)據(jù)平臺(tái)規(guī)模達(dá)到1400多臺(tái),向各地市各部門開(kāi)放租戶超過(guò)100個(gè),大數(shù)據(jù)應(yīng)用上線時(shí)間縮短至3天左右。數(shù)據(jù)能力:整合B/O/M三域數(shù)據(jù)資產(chǎn),日新增數(shù)據(jù)140T600億+條;數(shù)據(jù)規(guī)模超過(guò)5PB,為集團(tuán)內(nèi)數(shù)據(jù)最多最全的省公司之一。模型能力:實(shí)現(xiàn)建模核心能力自主掌控,構(gòu)建基礎(chǔ)模型近2000多個(gè)。已建成客戶標(biāo)簽體系包括習(xí)慣偏好、消費(fèi)行為等7大類10萬(wàn)+標(biāo)簽。
產(chǎn)品平臺(tái)喜?
(拓客)慧?
(洞察)喜刷街喜轉(zhuǎn)盤城市經(jīng)濟(jì)地圖智慧精選信用分交通治堵城市規(guī)劃線下零售效能擺攤精靈(駐點(diǎn)直銷)人氣精靈(潛/熟客)選址精靈(加盟廳)喜傳單信?(風(fēng)控)天盾反欺詐金融驗(yàn)真商業(yè)選址能力中臺(tái)應(yīng)用服務(wù)接口:提供用戶畫像、推薦觸達(dá)、行業(yè)洞察、風(fēng)險(xiǎn)防控等6大類288個(gè)服務(wù)接口,月均調(diào)用超1.47億次。對(duì)內(nèi):數(shù)據(jù)驅(qū)動(dòng)“智慧運(yùn)營(yíng)”對(duì)外:需求驅(qū)動(dòng)“價(jià)值運(yùn)營(yíng)”智慧應(yīng)用百花齊放:開(kāi)放用戶畫像、時(shí)機(jī)觸發(fā)、產(chǎn)品推薦等5大類46個(gè)服務(wù)接口,年支撐創(chuàng)新場(chǎng)景近30個(gè),月均營(yíng)銷成功用戶數(shù)提升1倍。線上千人千面咪咕愛(ài)看視頻推薦手機(jī)營(yíng)業(yè)廳福利社地市官微微服務(wù)全域旅游商用產(chǎn)品全線拓展:拓客類產(chǎn)品業(yè)務(wù)布局初步成型,意向客戶超70家;客流、選址等洞察類拳頭產(chǎn)品收入突破千萬(wàn);信用分創(chuàng)新風(fēng)控類產(chǎn)品已應(yīng)用于欠費(fèi)免停機(jī)場(chǎng)景,單客戶ARPU可提升1.64元目錄行業(yè)標(biāo)桿重點(diǎn)措施規(guī)劃思路回顧總結(jié)現(xiàn)狀分析數(shù)據(jù)中心建設(shè)現(xiàn)狀基于HADOOP架構(gòu),建設(shè)形成具備6大能力的大數(shù)據(jù)中心平臺(tái),有效支撐企業(yè)重點(diǎn)業(yè)務(wù)應(yīng)用。平臺(tái)架構(gòu)完成平臺(tái)擴(kuò)容,搭建了研發(fā)和生產(chǎn)環(huán)境分離的大數(shù)據(jù)基礎(chǔ)平臺(tái),實(shí)現(xiàn)以租戶形式提供存儲(chǔ)和計(jì)算資源。數(shù)據(jù)匯聚有序推進(jìn)BOM域數(shù)據(jù)整合,已匯聚IT、網(wǎng)絡(luò)、平臺(tái)共39個(gè)系統(tǒng)約2.2P的數(shù)據(jù)數(shù)據(jù)管理構(gòu)建數(shù)據(jù)資產(chǎn)地圖,支撐數(shù)據(jù)資產(chǎn)的量化、可視化運(yùn)營(yíng)管理,模型注冊(cè)和數(shù)據(jù)處理的配置化管理,實(shí)現(xiàn)從數(shù)據(jù)管理到數(shù)據(jù)資產(chǎn)管理的提升。安全管理提供實(shí)時(shí)/離線加密服務(wù),形成了加解密算法庫(kù)。數(shù)據(jù)服務(wù)提供標(biāo)準(zhǔn)化數(shù)據(jù)服務(wù)的統(tǒng)一開(kāi)放共享。平臺(tái)運(yùn)維搭建了統(tǒng)一的數(shù)據(jù)中心運(yùn)維平臺(tái),實(shí)現(xiàn)了跨系統(tǒng)運(yùn)維資源的整合開(kāi)發(fā)工具提供了可視化組件,已經(jīng)支撐業(yè)管、電金、新媒體3個(gè)部門以及樂(lè)山分公司的數(shù)據(jù)應(yīng)用,以及資陽(yáng)、眉山分公司的應(yīng)用推廣模型設(shè)計(jì)資產(chǎn)目錄資產(chǎn)視圖問(wèn)題總結(jié)數(shù)據(jù)中心能力待改進(jìn)需求總結(jié)平臺(tái)架構(gòu)1、需要完善本地網(wǎng)的應(yīng)用支撐2、可視化管理、跨集群數(shù)據(jù)交換能力不足3、集中運(yùn)維、自動(dòng)化運(yùn)維能力不足4、hadoop組件開(kāi)源開(kāi)發(fā)能力不足數(shù)據(jù)匯聚1、數(shù)據(jù)采集匯聚效率不足2、數(shù)據(jù)采集范圍尚未覆蓋企業(yè)級(jí)整體數(shù)據(jù)3、不同種類的數(shù)據(jù)存放仍需規(guī)范化4、源系統(tǒng)接口不規(guī)范,數(shù)據(jù)采集不穩(wěn)定數(shù)據(jù)處理1、實(shí)時(shí)、準(zhǔn)實(shí)時(shí)數(shù)據(jù)處理支撐能力不足2、數(shù)據(jù)處理的效率有待提升數(shù)據(jù)治理1、數(shù)據(jù)資產(chǎn)可視化程度偏低2、缺少數(shù)據(jù)資產(chǎn)面向企業(yè)的服務(wù)能力3、數(shù)據(jù)質(zhì)量管理仍有很大的提升空間數(shù)據(jù)開(kāi)發(fā)1、開(kāi)發(fā)流程管控能力有待提升2、數(shù)據(jù)開(kāi)發(fā)支撐工具還需補(bǔ)充3、開(kāi)發(fā)工具的易用性有待提高數(shù)據(jù)應(yīng)用1、基于數(shù)據(jù)中心的前端應(yīng)用缺乏深度2、缺少數(shù)據(jù)驅(qū)動(dòng)型產(chǎn)品的支撐
3、資產(chǎn)服務(wù)(血緣、運(yùn)維等)很少引用到前端應(yīng)用中系統(tǒng)運(yùn)維1、系統(tǒng)運(yùn)維智慧化程度不足2、缺乏基礎(chǔ)平臺(tái)運(yùn)維監(jiān)控能力數(shù)據(jù)安全1、數(shù)據(jù)安全體系持續(xù)完善中優(yōu)化數(shù)據(jù)中心資產(chǎn)能力,深化賦能型企業(yè)中臺(tái)建設(shè)規(guī)劃思路數(shù)據(jù)湖:擴(kuò)展數(shù)據(jù)匯聚能力,快速滿足分析型、探索型、挖掘型業(yè)務(wù)需求MPP架構(gòu):引入MPP架構(gòu),優(yōu)化本地網(wǎng)及各部門數(shù)據(jù)應(yīng)用支撐能力基礎(chǔ)架構(gòu)集約化建設(shè):優(yōu)化和完善數(shù)據(jù)中心的管理模式,提升對(duì)本地網(wǎng)及業(yè)務(wù)部門的數(shù)據(jù)應(yīng)用承載的支撐能力高效處理:提升實(shí)時(shí)、準(zhǔn)實(shí)時(shí)應(yīng)用的處理能力,快速支撐業(yè)務(wù)需求應(yīng)用管理:提高本地網(wǎng)及合作方應(yīng)用的快速部署能力運(yùn)維保障:實(shí)現(xiàn)從平臺(tái)到應(yīng)用的端對(duì)端保障數(shù)據(jù)開(kāi)放及探索:建立數(shù)據(jù)開(kāi)放機(jī)制,助力數(shù)據(jù)價(jià)值體現(xiàn)平臺(tái)能力數(shù)據(jù)中心組織保障:建立跨部門數(shù)據(jù)管理團(tuán)隊(duì),為數(shù)據(jù)質(zhì)量提供保障數(shù)據(jù)質(zhì)量:數(shù)據(jù)質(zhì)量能力提升,保障全流程數(shù)據(jù)質(zhì)量數(shù)據(jù)安全:建設(shè)全面統(tǒng)一的數(shù)據(jù)安全體系資產(chǎn)運(yùn)營(yíng):打造貫穿數(shù)據(jù)生產(chǎn)服務(wù)鏈的全景式數(shù)據(jù)資產(chǎn)管理及運(yùn)營(yíng)體系資產(chǎn)管控?cái)?shù)據(jù)應(yīng)用:發(fā)揮數(shù)據(jù)資產(chǎn)管理優(yōu)勢(shì),深入發(fā)掘數(shù)據(jù)價(jià)值,打造數(shù)據(jù)中心新應(yīng)用數(shù)據(jù)應(yīng)用借鑒AWS數(shù)據(jù)湖理念和阿里、移動(dòng)公司數(shù)據(jù)中臺(tái)建設(shè)經(jīng)驗(yàn),結(jié)合現(xiàn)狀,進(jìn)一步深化企業(yè)數(shù)據(jù)中臺(tái)建設(shè),為生產(chǎn)、營(yíng)銷、管理、運(yùn)營(yíng)類數(shù)據(jù)需求提供全方位的能力支撐。數(shù)據(jù)存儲(chǔ)/計(jì)算數(shù)據(jù)匯聚業(yè)務(wù)洞察(業(yè)務(wù)知識(shí))業(yè)務(wù)策略(過(guò)程智慧)業(yè)務(wù)事件(行為感知)業(yè)務(wù)協(xié)同(過(guò)程管控)業(yè)務(wù)質(zhì)量評(píng)估(過(guò)程優(yōu)化)業(yè)務(wù)知識(shí)沉淀(知識(shí)庫(kù))對(duì)內(nèi)精確支撐對(duì)外合作運(yùn)營(yíng)營(yíng)銷支撐管理支撐生產(chǎn)支撐本地網(wǎng)/公司行業(yè)數(shù)據(jù)分析行業(yè)數(shù)據(jù)挖掘行業(yè)精確營(yíng)銷客戶視圖渠道視圖產(chǎn)品視圖風(fēng)控視圖資源視圖……資產(chǎn)管理線資產(chǎn)運(yùn)營(yíng)線資產(chǎn)管理業(yè)務(wù)生產(chǎn)線原子業(yè)務(wù)倉(cāng)庫(kù)組織保障資產(chǎn)分析資產(chǎn)安全運(yùn)營(yíng)規(guī)劃資產(chǎn)開(kāi)發(fā)資產(chǎn)治理資產(chǎn)評(píng)估資產(chǎn)開(kāi)放資源目標(biāo)市場(chǎng)SaaSSoftwareasaServiceDaaSDataasaServicePaaSPlatformasaService智能化分析(機(jī)器學(xué)習(xí))智能化管理(數(shù)據(jù)治理)智能化運(yùn)維(智能運(yùn)維)對(duì)內(nèi)智慧運(yùn)營(yíng)對(duì)外合作創(chuàng)新總體架構(gòu)數(shù)據(jù)中心架構(gòu)全景視圖在建/增強(qiáng)規(guī)劃建議已建數(shù)據(jù)源B域M域網(wǎng)絡(luò)O域平臺(tái)數(shù)據(jù)層DataT-PaaS平臺(tái)層D-PaaSA-PaaS應(yīng)用層數(shù)據(jù)運(yùn)營(yíng)數(shù)據(jù)安全數(shù)據(jù)治理標(biāo)準(zhǔn)化管理元數(shù)據(jù)管理數(shù)據(jù)體檢數(shù)據(jù)質(zhì)量管理數(shù)據(jù)網(wǎng)關(guān)安全策略安全審計(jì)安全控制DaaSSaaS數(shù)據(jù)湖區(qū)(以HDFS為主Store)Data
in
Model(結(jié)構(gòu)化數(shù)據(jù))Data
is
Object(非結(jié)構(gòu)化、半結(jié)構(gòu)化數(shù)據(jù))傳統(tǒng)模型數(shù)據(jù)探索中間層匯總層標(biāo)簽庫(kù)指標(biāo)庫(kù)開(kāi)發(fā)庫(kù)統(tǒng)計(jì)分析庫(kù)數(shù)據(jù)挖掘庫(kù)存儲(chǔ)計(jì)算Hadoop存儲(chǔ)與計(jì)算集群MPP存儲(chǔ)與計(jì)算集群分布式緩存與計(jì)算流處理RDB存儲(chǔ)與計(jì)算平臺(tái)工具數(shù)據(jù)自服務(wù)數(shù)據(jù)可視化智慧門戶標(biāo)簽工具指標(biāo)工具應(yīng)用托管應(yīng)用工具應(yīng)用部署代碼構(gòu)建應(yīng)用編排數(shù)據(jù)開(kāi)發(fā)數(shù)據(jù)產(chǎn)品驅(qū)動(dòng)應(yīng)用精準(zhǔn)營(yíng)銷精確管理精細(xì)服務(wù)精益網(wǎng)運(yùn)行業(yè)應(yīng)用客戶洞察渠道洞察位置模型風(fēng)控模型……消費(fèi)品洞察新型數(shù)據(jù)數(shù)據(jù)對(duì)象視圖內(nèi)容解析檢索工具流處理工具數(shù)據(jù)挖掘數(shù)據(jù)采集爬蟲工具多租戶管理API&UI數(shù)據(jù)開(kāi)發(fā)管控資產(chǎn)目錄及注冊(cè)數(shù)據(jù)開(kāi)放作業(yè)統(tǒng)一調(diào)度數(shù)據(jù)同步數(shù)據(jù)資產(chǎn)運(yùn)營(yíng)統(tǒng)一運(yùn)維采集適配平臺(tái)光網(wǎng)、無(wú)線目錄行業(yè)標(biāo)桿重點(diǎn)措施規(guī)劃思路回顧總結(jié)基礎(chǔ)架構(gòu)平臺(tái)能力數(shù)據(jù)資產(chǎn)運(yùn)營(yíng)數(shù)據(jù)驅(qū)動(dòng)舉措:基于現(xiàn)有能力,擴(kuò)展構(gòu)建數(shù)據(jù)湖基于現(xiàn)有平臺(tái)能力,擴(kuò)展數(shù)據(jù)湖能力。豐富數(shù)據(jù)中心的匯聚能力,補(bǔ)充光網(wǎng)、無(wú)線數(shù)據(jù)的直接接入。接入數(shù)據(jù)的統(tǒng)一注冊(cè)和管控,保證數(shù)據(jù)質(zhì)量。生產(chǎn)環(huán)境的HDFS作為熱數(shù)據(jù)區(qū),研發(fā)環(huán)境作為溫?cái)?shù)據(jù)和冷數(shù)據(jù)區(qū)。完成資產(chǎn)管理平臺(tái)與采集適配平臺(tái)的對(duì)接。定義接口規(guī)范并落實(shí)接口規(guī)范完善接口稽核和監(jiān)控?;A(chǔ)架構(gòu)數(shù)據(jù)源2.核心處理(數(shù)據(jù)交互、任務(wù)調(diào)度、數(shù)據(jù)建模)2.1.研發(fā)環(huán)境(研發(fā)分析)2.2.生產(chǎn)環(huán)境(統(tǒng)一建模、調(diào)度、交互)采集適配平臺(tái)(光網(wǎng)無(wú)限)JOB發(fā)布研發(fā)數(shù)據(jù)倉(cāng)庫(kù)Hive
(輕度匯總)
數(shù)據(jù)湖(溫?cái)?shù)據(jù)區(qū),冷數(shù)據(jù)區(qū))生產(chǎn)數(shù)據(jù)倉(cāng)庫(kù)Hive(輕度匯總)研發(fā)數(shù)據(jù)倉(cāng)庫(kù)MPP(復(fù)雜關(guān)聯(lián))
生產(chǎn)數(shù)據(jù)倉(cāng)庫(kù)MPP(復(fù)雜關(guān)聯(lián))保證數(shù)據(jù)及時(shí)性同步數(shù)據(jù)資產(chǎn)管控平臺(tái)數(shù)據(jù)湖(熱數(shù)據(jù)區(qū))舉措:引入MPP架構(gòu),完善大數(shù)據(jù)平臺(tái)的處理能力平臺(tái)架構(gòu)彌補(bǔ)大數(shù)據(jù)數(shù)據(jù)平臺(tái)關(guān)聯(lián)計(jì)算及匯總處理效率的不足,同時(shí)兼顧本地網(wǎng)開(kāi)發(fā)人員技能平滑過(guò)渡,提高數(shù)據(jù)開(kāi)發(fā)和處理的效率,需引入MPP架構(gòu),形成數(shù)據(jù)中心完善的架構(gòu)支撐能力。平臺(tái)層處理層MPP數(shù)據(jù)庫(kù)Hadoop平臺(tái)報(bào)表應(yīng)用自助取數(shù)輕度匯總數(shù)據(jù)應(yīng)用寬表指標(biāo)清單數(shù)據(jù)文本數(shù)據(jù)流數(shù)據(jù)非結(jié)構(gòu)化數(shù)據(jù)業(yè)務(wù)部門工具層可視化工具智慧數(shù)據(jù)門戶資產(chǎn)管理平臺(tái)數(shù)據(jù)挖掘工具文本檢索工具自助分析其他分公司數(shù)據(jù)及技術(shù)專家數(shù)據(jù)模型開(kāi)發(fā)第三方開(kāi)發(fā)者多維分析準(zhǔn)實(shí)時(shí)應(yīng)用數(shù)據(jù)流處理數(shù)據(jù)挖掘建模文本日志處理查詢分析角色數(shù)據(jù)中心數(shù)據(jù)中心MPP架構(gòu)分角色支撐能力提升數(shù)據(jù)交換能力提升大數(shù)據(jù)集群間數(shù)據(jù)交換的效率建立大數(shù)據(jù)平臺(tái)與MMP數(shù)據(jù)庫(kù)的交換能力建立MPP數(shù)據(jù)庫(kù)與結(jié)構(gòu)化數(shù)據(jù)庫(kù)的交換能力提升資產(chǎn)管理平臺(tái)支撐能力封裝跨平臺(tái)數(shù)據(jù)處理引擎,支撐MPP環(huán)境下的數(shù)據(jù)模型開(kāi)發(fā)能力統(tǒng)一數(shù)據(jù)資產(chǎn)管理,建立跨平臺(tái)的數(shù)據(jù)注冊(cè)、管理體系實(shí)現(xiàn)本地網(wǎng)應(yīng)用的遷移提供豐富的MPP數(shù)據(jù)庫(kù)開(kāi)發(fā)工具,降低本地網(wǎng)人員開(kāi)發(fā)難度建立本地網(wǎng)推廣組織,協(xié)助本地網(wǎng)應(yīng)用逐步遷移到數(shù)據(jù)中心目錄行業(yè)標(biāo)桿重點(diǎn)措施規(guī)劃思路回顧總結(jié)基礎(chǔ)架構(gòu)平臺(tái)能力數(shù)據(jù)資產(chǎn)運(yùn)營(yíng)數(shù)據(jù)驅(qū)動(dòng)對(duì)租戶的開(kāi)通,資源分配,服務(wù)實(shí)例的分配,數(shù)據(jù)的授權(quán),應(yīng)用構(gòu)建等,進(jìn)行統(tǒng)一的可視化租戶管理。封裝統(tǒng)一的數(shù)據(jù)資源適配層,對(duì)接底層混搭的數(shù)據(jù)庫(kù)架構(gòu)。統(tǒng)一多租戶管理Hadoop集群MPP集群服務(wù)適配層(service
broker)租戶賬號(hào)創(chuàng)建資源分配服務(wù)分配數(shù)據(jù)授權(quán)應(yīng)用構(gòu)建應(yīng)用集群(K8S)租戶帳號(hào)開(kāi)通計(jì)算、存儲(chǔ)資源RDB組件服務(wù)數(shù)據(jù)授權(quán)服務(wù)12345圖例租戶帳號(hào)開(kāi)通服務(wù)計(jì)算、存儲(chǔ)資源服務(wù)組件服務(wù)調(diào)用數(shù)據(jù)授權(quán)服務(wù)調(diào)用應(yīng)用構(gòu)建服務(wù)調(diào)用多租戶管理舉措:實(shí)現(xiàn)可視化的多租戶管理流程租戶管理簡(jiǎn)潔化:改變傳統(tǒng)的通過(guò)后臺(tái)分配租戶、數(shù)據(jù)訪問(wèn)權(quán)限等操作,非技術(shù)人員也可以通過(guò)可視化的操作,快速創(chuàng)建租戶,并對(duì)租戶數(shù)據(jù)進(jìn)行賦權(quán)。權(quán)限管理視圖:解決現(xiàn)階段后臺(tái)操作賦權(quán)后,沒(méi)有統(tǒng)一完整的視圖展現(xiàn)租戶與數(shù)據(jù)庫(kù)表之間的關(guān)系,可視化多租戶管理能夠通過(guò)可視化的界面對(duì)權(quán)限進(jìn)行梳理、分析、配置。完善管控流程:將現(xiàn)階段線上郵件申請(qǐng),線下賦權(quán)的管理流程規(guī)范化,統(tǒng)一納入到線上管控流程中,減少了人為因素導(dǎo)致的問(wèn)題出現(xiàn)的概率,同時(shí)也可以記錄操作日志,對(duì)違規(guī)操作進(jìn)行審計(jì),提高了系統(tǒng)運(yùn)維的安全性。平臺(tái)能力舉措:完善平臺(tái)組件能力,支撐本地網(wǎng)開(kāi)發(fā)全流程資產(chǎn)管理平臺(tái)可視化能力類組件SQL取數(shù)組件診斷能力類組件可視化取數(shù)組件DTS工具門戶數(shù)據(jù)開(kāi)發(fā)報(bào)表開(kāi)發(fā)業(yè)務(wù)診斷IT人員取數(shù)業(yè)務(wù)人員取數(shù)數(shù)據(jù)查閱數(shù)據(jù)開(kāi)發(fā)類組件數(shù)據(jù)處理類引擎數(shù)據(jù)采集類組件MPPhive產(chǎn)品銷售品類本地寬表新增優(yōu)化其他管控?cái)?shù)據(jù)獲取DTS工具:DTS工具新增“魚骨圖”、“思維導(dǎo)圖”組件提供業(yè)務(wù)人員診斷能力;DTS工具優(yōu)化“可視化取數(shù)”支持外關(guān)聯(lián)的取數(shù)支持,方便業(yè)務(wù)人員實(shí)現(xiàn)可視化自助取數(shù);DTS工具優(yōu)化“手寫SQL”報(bào)表組件UI及鉆取透視功能;DTS工具集成“SQL查詢”模塊,支持IT人員使用SQL完成臨時(shí)取數(shù)需求;資產(chǎn)管理平臺(tái)優(yōu)化“數(shù)據(jù)采集類組件”,支持準(zhǔn)實(shí)時(shí)的接口提速,并且同步到MPP;資產(chǎn)管理平臺(tái)優(yōu)化“數(shù)據(jù)開(kāi)發(fā)類組件”,支持MPP數(shù)據(jù)庫(kù)的數(shù)據(jù)加工邏輯的開(kāi)發(fā)與任務(wù)調(diào)度開(kāi)發(fā);資產(chǎn)管理平臺(tái)優(yōu)化“數(shù)據(jù)處理類引擎”,支持MPP數(shù)據(jù)處理邏輯能正常運(yùn)行調(diào)度;1、完善平臺(tái)組件能力,支撐本地網(wǎng)從數(shù)據(jù)開(kāi)發(fā)、報(bào)表開(kāi)發(fā)、數(shù)據(jù)查閱、自助取數(shù)、業(yè)務(wù)診斷的端到端的數(shù)據(jù)應(yīng)用能力;2:實(shí)現(xiàn)數(shù)據(jù)不出數(shù)據(jù)中心。數(shù)據(jù)湖資產(chǎn)管理平臺(tái):流處理工具舉措:提升實(shí)時(shí)分析的能力建設(shè)目標(biāo)建議舉措1:實(shí)時(shí)處理可視化編排目前已經(jīng)具備實(shí)時(shí)數(shù)據(jù)接入能力,但對(duì)實(shí)時(shí)營(yíng)銷、實(shí)時(shí)數(shù)據(jù)分析場(chǎng)景開(kāi)發(fā)周期長(zhǎng),開(kāi)發(fā)門檻高,無(wú)法快速響應(yīng)市州分公司等業(yè)務(wù)訴求,缺乏一套配置使用簡(jiǎn)單具備平臺(tái)管理的實(shí)時(shí)處理與分析能力??梢暬疍AG配置可視化監(jiān)控運(yùn)維平臺(tái)需要具備特性二次開(kāi)發(fā)熔斷/流控管理開(kāi)放與集成容錯(cuò)處理failover分布式處理高性能可擴(kuò)展實(shí)時(shí)抽取組件業(yè)務(wù)處理組件自由編排建議舉措2:與資產(chǎn)管理平臺(tái)打通元數(shù)據(jù)實(shí)現(xiàn)實(shí)時(shí)數(shù)據(jù)、離線數(shù)據(jù)統(tǒng)一管理需要與資產(chǎn)管理平臺(tái)打通元數(shù)據(jù)資產(chǎn)統(tǒng)一管理的必要性流處理工具
四川電信目前已經(jīng)具備實(shí)時(shí)數(shù)據(jù)接入能力,但對(duì)實(shí)時(shí)營(yíng)銷、實(shí)時(shí)數(shù)據(jù)分析、實(shí)時(shí)業(yè)務(wù)監(jiān)控等對(duì)實(shí)時(shí)處理能力要求高的業(yè)務(wù)還缺乏統(tǒng)一的平臺(tái)支撐;需要提供一個(gè)處理流數(shù)據(jù)低延遲、可高度擴(kuò)展的,滿足海量且多樣化數(shù)據(jù)源處理的高性能平臺(tái)。舉措:提升實(shí)時(shí)事件處理能力.......流程化配置管理圖表化監(jiān)控視圖流處理引擎輸入適配HTTPSocketFlumeKafka……數(shù)據(jù)訂閱HDFSHBaseMySQLKafka……一站式操作界面豐富的數(shù)據(jù)訂閱規(guī)則輸出適配通用可配置的數(shù)據(jù)源適配器精準(zhǔn)營(yíng)銷實(shí)時(shí)預(yù)警個(gè)性推薦位置運(yùn)營(yíng)客戶畫像開(kāi)放的label擴(kuò)展接口………一站式操作界面,提供便捷且直觀的流處理管理能力。豐富的數(shù)據(jù)訂閱規(guī)則,確保企業(yè)業(yè)務(wù)數(shù)據(jù)間的隱私,同時(shí)為精準(zhǔn)分析和決策提供依據(jù)參考。提供多樣化的接入方式,幫助企業(yè)更加快速、方便的接入多樣化數(shù)據(jù)舉措:構(gòu)建安全的數(shù)據(jù)開(kāi)放形式1:數(shù)據(jù)開(kāi)放的標(biāo)準(zhǔn)化和安全性。2:平臺(tái)提供工具,為租戶提供開(kāi)發(fā)能力。資產(chǎn)管理平臺(tái):提供各種底層接口的適配能力提供服務(wù)和數(shù)據(jù)的安全控制策略提供各類服務(wù)調(diào)用方式(包括文件和Http),及數(shù)據(jù)封裝。租戶按照數(shù)據(jù)服務(wù)申請(qǐng),授權(quán),數(shù)據(jù)加工,數(shù)據(jù)發(fā)布,API封裝,API開(kāi)發(fā)的流程完成數(shù)據(jù)開(kāi)放過(guò)程。應(yīng)用開(kāi)放統(tǒng)一接入數(shù)據(jù)適配服務(wù)路由服務(wù)監(jiān)控安全控制服務(wù)編排能力代理協(xié)議轉(zhuǎn)換能力適配統(tǒng)一接入MPPHadoopHBaseRDB…...基礎(chǔ)數(shù)據(jù)數(shù)據(jù)適配jdbcRESTSOAPWebService特定APIPGOracleHive同步異步消息服務(wù)訂閱數(shù)據(jù)調(diào)用接入鑒權(quán)業(yè)務(wù)路由負(fù)載均衡服務(wù)緩存安全控制數(shù)據(jù)動(dòng)態(tài)脫敏數(shù)據(jù)加密IP控制字段級(jí)控制服務(wù)控制配額控制流量控制統(tǒng)一日志使用計(jì)量資產(chǎn)管理平臺(tái)數(shù)據(jù)服務(wù)平臺(tái)能力舉措:提高本地網(wǎng)應(yīng)用快速部署能力平臺(tái)能力1:通過(guò)數(shù)據(jù)服務(wù)化的支撐分公司的應(yīng)用創(chuàng)新。2:提高應(yīng)用微服務(wù)化的平臺(tái)支撐能力。建設(shè)統(tǒng)一的應(yīng)用管理平臺(tái),針對(duì)地市獨(dú)立開(kāi)發(fā)的應(yīng)用,做到資源按需分配。避免申請(qǐng)資源直接申請(qǐng)物理機(jī)、VM情況。應(yīng)用管理平臺(tái)能夠查看各個(gè)本地網(wǎng)應(yīng)用使用數(shù)據(jù)的情況。集中管理應(yīng)用的高可用,負(fù)載均衡,灰度發(fā)布,彈性擴(kuò)縮容的。實(shí)現(xiàn)應(yīng)用的自動(dòng)化管理。集中監(jiān)控應(yīng)用的狀態(tài),對(duì)異常的應(yīng)用集中告警。用例覆蓋場(chǎng)景詳細(xì)描述與四川電信場(chǎng)景結(jié)合優(yōu)先級(jí)CICD場(chǎng)景持續(xù)集成/部署、鏡像安全、應(yīng)用隔離、應(yīng)用配置、應(yīng)用升級(jí)/回滾通過(guò)CICD和DevOps流程管理開(kāi)發(fā)和第三方軟件提供商的開(kāi)發(fā)流程,實(shí)現(xiàn)應(yīng)用快速迭代。高彈性伸縮根據(jù)應(yīng)用彈性自動(dòng)伸縮電渠平臺(tái)面臨促銷、團(tuán)購(gòu)等活動(dòng)時(shí),通過(guò)彈性伸縮能力及時(shí)響應(yīng)業(yè)務(wù)量暴漲帶來(lái)的前端壓力,并保障業(yè)務(wù)不間斷。高有狀態(tài)應(yīng)用容器遷移、mysql數(shù)據(jù)庫(kù)的完整性驗(yàn)證解決有狀態(tài)應(yīng)用的靈活擴(kuò)展帶來(lái)的數(shù)據(jù)遷移問(wèn)題。高租戶應(yīng)用資源隔離多租戶配額限制與賬戶管理對(duì)外提供服務(wù),對(duì)不同的用戶提供不同資源配額和空間。中運(yùn)維監(jiān)控監(jiān)控、日志提供容器環(huán)境下完善的監(jiān)控和日志平臺(tái),智能高效運(yùn)維,降低管理成本,保證業(yè)務(wù)高可用。高應(yīng)用容器化常用中間件容器化
Tomcat、Redis、kafka、mysql等將常用中間件置于能力開(kāi)放平臺(tái),可大大減短應(yīng)用的開(kāi)發(fā)周期,提高開(kāi)發(fā)效率,及應(yīng)用的穩(wěn)定性。高容器安全鏡像安全、及容器應(yīng)用隔離分別從鏡像和運(yùn)行時(shí)容器多維度保障應(yīng)用安全。中穩(wěn)定性/性能異常測(cè)試高可用、性能測(cè)試;保障平臺(tái)高可用,評(píng)測(cè)支撐業(yè)務(wù)規(guī)模。高關(guān)鍵技術(shù)(網(wǎng)絡(luò)技術(shù))多主機(jī)之間網(wǎng)絡(luò)通信為不同的業(yè)務(wù)場(chǎng)景提供豐富的網(wǎng)絡(luò)方案和模型。高平臺(tái)能力舉措:提升診斷、取數(shù)自服務(wù)能力,支撐移動(dòng)端開(kāi)發(fā)
提升在線洞察診斷能力為業(yè)務(wù)人員提供魚骨圖、思維導(dǎo)圖組件:用于分析關(guān)聯(lián)業(yè)務(wù)因素主因,清晰展現(xiàn)診斷思路
提升在線數(shù)據(jù)自服務(wù)能力新增“SQL查詢”(WEB版本SQL查詢頁(yè)面),利用JDBC支持多種數(shù)據(jù)源的SQL執(zhí)行,以支撐本地網(wǎng)IT人員完成臨時(shí)需求取數(shù);支持移動(dòng)端適配可視化工具的“可視化引擎”增加“移動(dòng)端適配”支持,制作圖表可在移動(dòng)端展現(xiàn)1、提升工具可視化診斷、取數(shù)能力,支撐業(yè)務(wù)人員在線自助的分析與取數(shù)工作;2、可視化工具支撐移動(dòng)端應(yīng)用圖表開(kāi)發(fā),同一應(yīng)用可適配移動(dòng)端與PC端,減少IT人員開(kāi)發(fā)工作量;智慧數(shù)據(jù)門戶分析能力異常預(yù)警異常追溯業(yè)務(wù)風(fēng)控業(yè)務(wù)評(píng)估個(gè)性化能力收藏訂閱智能推薦交互性能力工作流評(píng)論分享手機(jī)門戶PC門戶新增優(yōu)化其他數(shù)據(jù)查詢能力血緣追溯圖表呈現(xiàn)圖表聯(lián)動(dòng)數(shù)據(jù)下鉆自助取數(shù)提供智慧分析能力通過(guò)集成固化業(yè)務(wù)分析模型,為智慧門戶提供業(yè)務(wù)異常預(yù)警、異常追溯能力,同時(shí)也能對(duì)業(yè)務(wù)風(fēng)險(xiǎn)控制、業(yè)務(wù)發(fā)展評(píng)估提供支撐提升個(gè)性化能力收藏與訂閱:配合指標(biāo)庫(kù)改造,優(yōu)化指標(biāo)的收藏與訂閱,完成個(gè)人工作臺(tái)定制;智能推薦:根據(jù)業(yè)務(wù)人員偏好,完成指標(biāo)、報(bào)表、預(yù)警信息推送;新增移動(dòng)端的交互能力通過(guò)實(shí)現(xiàn)工作流能力支撐,省市、業(yè)務(wù)人員與分析人員、領(lǐng)導(dǎo)者與運(yùn)維者等多角度交互,形成在線溝通的快速保障能力;同時(shí)郵件、短彩信等多渠道分享促進(jìn)員工間協(xié)同,使正確的信息,在正確的時(shí)間,以專業(yè)的可視化形式流向決策者!優(yōu)化數(shù)據(jù)查詢能力通過(guò)打通與資產(chǎn)管理平臺(tái),優(yōu)化指標(biāo)血緣追溯能力;同時(shí)通過(guò)集成自助取數(shù)工具,支撐業(yè)務(wù)人員自助取數(shù)需求1、優(yōu)化門戶智慧分析能力模塊與優(yōu)化門戶個(gè)性化能力支持,為門戶注智;2、新增移動(dòng)端交互能力,實(shí)現(xiàn)多終端、多渠道的協(xié)同,使正確決策信息以專業(yè)的可視化形式流向決策者;3、優(yōu)化數(shù)據(jù)查詢能力,更方便讓數(shù)據(jù)使用者了解和自助完成數(shù)據(jù)獲取。平臺(tái)能力舉措:優(yōu)化門戶實(shí)現(xiàn)報(bào)表支撐型向智慧服務(wù)型轉(zhuǎn)變建議:基于從平臺(tái)到應(yīng)用端到端的運(yùn)維保障一體化運(yùn)維以大數(shù)據(jù)中心的應(yīng)用為視角,向下關(guān)聯(lián)平臺(tái)、資源、基礎(chǔ)服務(wù)的運(yùn)行情況和數(shù)據(jù)使用情況,當(dāng)應(yīng)用出現(xiàn)故障時(shí),能夠?qū)崿F(xiàn)端到端的快速故障定位、原因排查、故障排除建議的服務(wù)。從應(yīng)用角度出發(fā),解決定位問(wèn)題難、解決問(wèn)題難、總結(jié)問(wèn)題難的難題。需要多個(gè)部門聯(lián)合推動(dòng)一體化運(yùn)維多租戶管理能力貫穿運(yùn)營(yíng)監(jiān)控的各個(gè)環(huán)節(jié),保障對(duì)資源、數(shù)據(jù)、服務(wù)的統(tǒng)一調(diào)配各平臺(tái)/系統(tǒng)運(yùn)維界面的統(tǒng)一集成、統(tǒng)一展示異構(gòu)廠商運(yùn)維數(shù)據(jù)的規(guī)范接入,保障運(yùn)維分析的準(zhǔn)確性重要應(yīng)用的準(zhǔn)實(shí)時(shí)/實(shí)時(shí)監(jiān)控,及時(shí)預(yù)警建立業(yè)務(wù)運(yùn)維視圖,實(shí)現(xiàn)應(yīng)用與平臺(tái)、資源、服務(wù)、數(shù)據(jù)之間的映射關(guān)系邏輯模型,便于問(wèn)題溯源監(jiān)控指標(biāo)的統(tǒng)一預(yù)警運(yùn)維知識(shí)的沉淀總結(jié),形成運(yùn)維知識(shí)庫(kù),便于快速解決問(wèn)題調(diào)度程序問(wèn)題數(shù)據(jù)庫(kù)問(wèn)題磁盤空間問(wèn)題網(wǎng)絡(luò)聯(lián)通性問(wèn)題大數(shù)據(jù)組件進(jìn)程問(wèn)題平臺(tái)資源分配問(wèn)題……一鍵故障診斷,定位問(wèn)題類型大數(shù)據(jù)平臺(tái)組件數(shù)據(jù)庫(kù)主機(jī)網(wǎng)絡(luò)系統(tǒng)接口作業(yè)調(diào)度……監(jiān)控?cái)?shù)據(jù)關(guān)聯(lián)分析建立業(yè)務(wù)運(yùn)維視圖應(yīng)用告警業(yè)務(wù)運(yùn)維視圖順序診斷故障業(yè)務(wù)運(yùn)維視圖組件應(yīng)用告警界面建議舉措目錄行業(yè)標(biāo)桿重點(diǎn)措施規(guī)劃思路回顧總結(jié)基礎(chǔ)架構(gòu)平臺(tái)能力數(shù)據(jù)資產(chǎn)運(yùn)營(yíng)數(shù)據(jù)驅(qū)動(dòng)數(shù)據(jù)資產(chǎn)管控與運(yùn)營(yíng)整體思路數(shù)據(jù)資產(chǎn)管控與運(yùn)營(yíng)加強(qiáng)數(shù)據(jù)資產(chǎn)診斷,提升數(shù)據(jù)質(zhì)量,確保數(shù)據(jù)品質(zhì)數(shù)據(jù)價(jià)值評(píng)估,獲取成本,計(jì)算成本,增值成本,業(yè)務(wù)價(jià)值,量化估值體系數(shù)據(jù)規(guī)劃構(gòu)建數(shù)據(jù)運(yùn)營(yíng)機(jī)制,助力數(shù)據(jù)價(jià)值變現(xiàn)數(shù)據(jù)開(kāi)發(fā)資產(chǎn)治理資產(chǎn)評(píng)估數(shù)據(jù)安全資產(chǎn)開(kāi)放制定完善的數(shù)據(jù)標(biāo)準(zhǔn)規(guī)范,規(guī)劃整體數(shù)據(jù)架構(gòu)開(kāi)發(fā)過(guò)程規(guī)范化,流程化;確保數(shù)據(jù)規(guī)范的落地提供全流程數(shù)據(jù)脫敏能力,確保數(shù)據(jù)使用可管可控亞信依據(jù)多年在數(shù)據(jù)資產(chǎn)管控及運(yùn)營(yíng)的建設(shè)經(jīng)驗(yàn),打造貫穿數(shù)據(jù)生產(chǎn)服務(wù)鏈的全景式數(shù)據(jù)資產(chǎn)管理及運(yùn)營(yíng)體系組織架構(gòu)制定完善的數(shù)據(jù)標(biāo)準(zhǔn)規(guī)范,規(guī)劃整體數(shù)據(jù)架構(gòu)01.組織架構(gòu)建議:多部門保障的數(shù)據(jù)資產(chǎn)管理組織打破公司部門壁壘,構(gòu)建起多部門共同參與的數(shù)據(jù)資產(chǎn)管理組織,實(shí)現(xiàn)數(shù)據(jù)資產(chǎn)管理職能統(tǒng)一收斂,并將數(shù)據(jù)資產(chǎn)管理工作從“項(xiàng)目主導(dǎo)“升級(jí)為“公司主導(dǎo)”,從而全面支撐橫向、縱向的數(shù)據(jù)資產(chǎn)管理工作開(kāi)展。建立虛擬的跨多部門的數(shù)據(jù)資產(chǎn)委員會(huì)
,“委員會(huì)”由公司領(lǐng)導(dǎo)掛帥,各部門增設(shè)數(shù)據(jù)資產(chǎn)管理專員,負(fù)責(zé)各項(xiàng)關(guān)聯(lián)流程實(shí)行與有效溝通建立實(shí)體組織數(shù)據(jù)資產(chǎn)管理部,增設(shè)數(shù)據(jù)架構(gòu)管理、數(shù)據(jù)標(biāo)準(zhǔn)管理、數(shù)據(jù)需求管理、數(shù)據(jù)開(kāi)發(fā)管理、數(shù)據(jù)操作管理等角色;梳理管理流程,明確分工界面,負(fù)責(zé)盤點(diǎn)與整理各自業(yè)務(wù)部分的數(shù)據(jù)資產(chǎn)。數(shù)據(jù)資產(chǎn)委員會(huì)領(lǐng)導(dǎo)小組企業(yè)信息化部系統(tǒng)部系統(tǒng)集成部大數(shù)據(jù)平臺(tái)組大數(shù)據(jù)中心數(shù)據(jù)資產(chǎn)管理部數(shù)據(jù)資產(chǎn)管理團(tuán)隊(duì)xxxxx數(shù)據(jù)資產(chǎn)管理專員網(wǎng)絡(luò)部數(shù)據(jù)資產(chǎn)管理專員市場(chǎng)部。。。財(cái)務(wù)部。。。地市公司成都公司。。。綿陽(yáng)公司。。?!毮埽罕馄交绞脚浜瞎ぷ?,負(fù)責(zé)本域數(shù)據(jù)的治理工作,并接受監(jiān)督職能:系統(tǒng)平臺(tái)建設(shè),提供系統(tǒng)資源職能:總體負(fù)責(zé)、具體實(shí)施優(yōu)化組織結(jié)構(gòu)職能:領(lǐng)導(dǎo)、組織與決策數(shù)據(jù)標(biāo)準(zhǔn)化及治理工作建設(shè)目標(biāo)建議舉措02.數(shù)據(jù)規(guī)劃舉措:制定完善的數(shù)據(jù)標(biāo)準(zhǔn)規(guī)范,規(guī)劃整體數(shù)據(jù)架構(gòu)完善數(shù)據(jù)管理規(guī)范,如數(shù)據(jù)生命周期管理規(guī)范、數(shù)據(jù)安全管理規(guī)范、數(shù)據(jù)服務(wù)封裝規(guī)范;優(yōu)化數(shù)據(jù)架構(gòu)定義,指導(dǎo)開(kāi)發(fā)團(tuán)隊(duì)規(guī)范模型設(shè)計(jì)與程序開(kāi)發(fā);新增存儲(chǔ)架構(gòu)規(guī)劃,引入MPP異構(gòu)需要增加對(duì)于HDFS、MPP不同類型存儲(chǔ)規(guī)劃。建設(shè)目標(biāo)建議舉措數(shù)據(jù)現(xiàn)狀進(jìn)行了全面梳理,并結(jié)合已有的相關(guān)標(biāo)準(zhǔn)規(guī)范,最終制定了10項(xiàng)企業(yè)級(jí)數(shù)據(jù)資產(chǎn)管理規(guī)范和標(biāo)準(zhǔn),基本覆蓋了數(shù)據(jù)資產(chǎn)管理的各個(gè)方面,起到指導(dǎo)和約束日常數(shù)據(jù)資產(chǎn)生產(chǎn)和管理的作用元數(shù)據(jù)管理規(guī)范數(shù)據(jù)質(zhì)量管理規(guī)范數(shù)據(jù)生命周期管理規(guī)范數(shù)據(jù)安全管理規(guī)范接口設(shè)計(jì)規(guī)范接口開(kāi)發(fā)規(guī)范模型設(shè)計(jì)規(guī)范模型開(kāi)發(fā)規(guī)范數(shù)據(jù)服務(wù)封裝規(guī)范數(shù)據(jù)開(kāi)放規(guī)范以模型設(shè)計(jì)規(guī)范中對(duì)邏輯數(shù)據(jù)模型的規(guī)范要求為例:模型命名字段命名模型主題DWD層模型主題域共劃分8個(gè)主題域29個(gè)子域DW-整合層主題域的劃分與DWD層一致DW-統(tǒng)一視圖層主題域共劃分6個(gè)主體域DWD層模型所有實(shí)體必須以“D_【主題域縮寫】【主題子域縮寫】_【實(shí)體自定義】”方式命名DW層模型所有實(shí)體必須以“【數(shù)據(jù)層級(jí)】_【主題域縮寫】【子域縮寫】_【實(shí)體名縮寫】_【實(shí)體自定義】”方式命名字段命名規(guī)范總共規(guī)定了20個(gè)字段后綴命名規(guī)范,144個(gè)常用詞匯命名規(guī)范以及357個(gè)常用字段規(guī)范設(shè)定數(shù)據(jù)架構(gòu)當(dāng)選擇數(shù)據(jù)庫(kù)下的業(yè)務(wù)匯總層后,存儲(chǔ)屬性就會(huì)自動(dòng)填充設(shè)定存儲(chǔ)架構(gòu)設(shè)定數(shù)據(jù)標(biāo)準(zhǔn)制定數(shù)據(jù)規(guī)范03.數(shù)據(jù)開(kāi)發(fā)舉措:全流程的資產(chǎn)開(kāi)發(fā)規(guī)劃數(shù)據(jù)規(guī)范與生產(chǎn)結(jié)合,把數(shù)據(jù)規(guī)范落地在生產(chǎn)鏈中,前向執(zhí)行數(shù)據(jù)的規(guī)劃;完善指標(biāo)與標(biāo)簽管理工具,補(bǔ)充指標(biāo)與標(biāo)簽管理工具,完善數(shù)據(jù)加工的工具鏈;完善開(kāi)發(fā)運(yùn)維體系,引入運(yùn)維知識(shí)庫(kù),嘗試智能化運(yùn)維能力建設(shè)目標(biāo)建議舉措四川電信資產(chǎn)開(kāi)發(fā)平臺(tái)涵蓋了需求分析以及數(shù)據(jù)架構(gòu)設(shè)計(jì),注冊(cè),開(kāi)發(fā)以及上線運(yùn)行的全流程開(kāi)發(fā)管理,通過(guò)規(guī)范化開(kāi)發(fā)流程來(lái)保證數(shù)據(jù)中心的數(shù)據(jù)質(zhì)量以及數(shù)據(jù)安全。2018年規(guī)劃數(shù)據(jù)架構(gòu)設(shè)計(jì)資產(chǎn)目錄規(guī)劃租戶設(shè)計(jì)數(shù)據(jù)分層分域設(shè)計(jì)數(shù)據(jù)標(biāo)準(zhǔn)規(guī)范制定生命周期制定數(shù)據(jù)安全策略需求自動(dòng)化分解分析/設(shè)計(jì)資產(chǎn)注冊(cè)資產(chǎn)注冊(cè)中心數(shù)據(jù)項(xiàng)注冊(cè)模型注冊(cè)資源注冊(cè)處理能力注冊(cè)接口注冊(cè)(入湖注冊(cè))元數(shù)據(jù)采集指標(biāo)/標(biāo)簽注冊(cè)資產(chǎn)開(kāi)發(fā)資產(chǎn)開(kāi)發(fā)采集接口開(kāi)發(fā)處理語(yǔ)義開(kāi)發(fā)對(duì)外共享開(kāi)發(fā)指標(biāo)&標(biāo)簽庫(kù)開(kāi)發(fā)調(diào)度配置湖內(nèi)數(shù)據(jù)資產(chǎn)封裝基于數(shù)據(jù)對(duì)象的開(kāi)發(fā)上線/運(yùn)維/分析上線/運(yùn)維及分析資產(chǎn)審核雙環(huán)境上線發(fā)布運(yùn)維問(wèn)題處理與管理血緣及影響分析日志在線展示與分析運(yùn)維知識(shí)庫(kù)及智能化生命周期自動(dòng)化管理2019年規(guī)劃04.資產(chǎn)治理舉措:強(qiáng)化數(shù)據(jù)資產(chǎn)診斷,保障數(shù)據(jù)品質(zhì)優(yōu)化數(shù)據(jù)處理程序效能監(jiān)控?cái)?shù)據(jù)生命周期是否健康診斷數(shù)據(jù)模型冗余是否合理檢查數(shù)據(jù)開(kāi)發(fā)過(guò)程是否標(biāo)準(zhǔn)監(jiān)督數(shù)據(jù)使用過(guò)程是否安全可控建設(shè)目標(biāo)建議舉措數(shù)據(jù)運(yùn)營(yíng)的初期需要加強(qiáng)數(shù)據(jù)資產(chǎn)運(yùn)維,保障數(shù)據(jù)品質(zhì)。從數(shù)據(jù)使用的源頭跟蹤整個(gè)數(shù)據(jù)生產(chǎn)過(guò)程中的健康狀態(tài),結(jié)合任務(wù)作業(yè)的調(diào)度,運(yùn)行資源的使用,程序運(yùn)行效能,數(shù)據(jù)存儲(chǔ)合理性,提升數(shù)據(jù)的質(zhì)量。數(shù)據(jù)的不斷累積團(tuán)隊(duì)的不斷增多有按標(biāo)準(zhǔn)執(zhí)行嗎?數(shù)據(jù)存在冗余嗎?數(shù)據(jù)處理高效嗎?數(shù)據(jù)都有人使用嗎?到期數(shù)據(jù)有清除?質(zhì)量管控過(guò)程標(biāo)準(zhǔn)化管理過(guò)程存儲(chǔ)管理過(guò)程模型管理過(guò)程安全管控過(guò)程……開(kāi)發(fā)者量化管理模型數(shù)據(jù)運(yùn)維健康度模型04.資產(chǎn)治理舉措:數(shù)據(jù)質(zhì)量能力提升,保障全流程數(shù)據(jù)質(zhì)量?jī)?yōu)化稽核規(guī)則和策略,提升稽核效率;建立統(tǒng)一稽核視圖,方便管理和運(yùn)維;完善稽核點(diǎn)和稽核規(guī)則;提供月度質(zhì)量分析報(bào)告;完善實(shí)時(shí)采集稽核方案,確保實(shí)時(shí)采集接口質(zhì)量;建設(shè)目標(biāo)建議舉措數(shù)據(jù)質(zhì)量體系支撐效率提升稽核完善集中展示總結(jié)分析元數(shù)據(jù)質(zhì)量表元數(shù)據(jù)稽核基礎(chǔ)能力事中管理事前管理事后管理視圖元數(shù)據(jù)稽核字段數(shù)據(jù)稽核稽核管理統(tǒng)一視圖稽核管理接口數(shù)據(jù)稽核模型層數(shù)據(jù)稽核應(yīng)用數(shù)據(jù)稽核指標(biāo)稽核數(shù)據(jù)質(zhì)量體檢優(yōu)化策略數(shù)據(jù)質(zhì)量月報(bào)數(shù)據(jù)質(zhì)量專題告警采集運(yùn)行效率稽核點(diǎn)優(yōu)化稽核規(guī)則優(yōu)化稽核規(guī)則管理問(wèn)題管理…….1:效率提升:全面保障數(shù)據(jù)質(zhì)量的前提下,提升數(shù)據(jù)質(zhì)量稽核效率。2:稽核完善:部分重點(diǎn)指標(biāo)和數(shù)據(jù)還需要進(jìn)一步完善監(jiān)控規(guī)則,做到重點(diǎn)指標(biāo)不遺漏,稽核質(zhì)量有保障3:集中展示:統(tǒng)一展示稽核情況,能夠方便快捷的了解稽核全景,保障稽核工作順利開(kāi)展4:總結(jié)分析:實(shí)現(xiàn)月度質(zhì)量分析,逐步形成大數(shù)據(jù)平臺(tái)月度運(yùn)營(yíng)質(zhì)量分析05.資產(chǎn)評(píng)估舉措:完善數(shù)據(jù)資產(chǎn)評(píng)估,體現(xiàn)數(shù)據(jù)價(jià)值建設(shè)目標(biāo)建議舉措建立數(shù)據(jù)資產(chǎn)價(jià)值評(píng)估體系,為數(shù)據(jù)開(kāi)發(fā)提供輔助支持,提升數(shù)據(jù)運(yùn)營(yíng)和服務(wù)保障能力。1.建設(shè)資產(chǎn)價(jià)值評(píng)估體系,刻畫數(shù)據(jù)資產(chǎn)價(jià)值通過(guò)資產(chǎn)價(jià)值評(píng)估規(guī)則管理,分析刻畫,形成數(shù)據(jù)資產(chǎn)評(píng)價(jià)指標(biāo)建立全域資產(chǎn)價(jià)值評(píng)估框架形成資產(chǎn)價(jià)值評(píng)估體系化工作流注智模型開(kāi)發(fā)注智數(shù)據(jù)運(yùn)營(yíng)注智數(shù)據(jù)服務(wù)智能調(diào)度策略原子job資源配置優(yōu)化數(shù)據(jù)生命周期管理……模型原子化粒度模型關(guān)聯(lián)關(guān)系模型處理規(guī)則數(shù)據(jù)合并策略查詢性能優(yōu)化服務(wù)等級(jí)管理熱點(diǎn)推薦數(shù)據(jù)服務(wù)封裝……注智數(shù)據(jù)管理及服務(wù)……2.為數(shù)據(jù)管理及服務(wù)注智根據(jù)數(shù)據(jù)資產(chǎn)價(jià)值評(píng)估結(jié)果,為模型開(kāi)發(fā)、數(shù)據(jù)運(yùn)營(yíng)、數(shù)據(jù)服務(wù)注智模型開(kāi)發(fā):輔助建模,提供模型關(guān)聯(lián)、處理、合并策略建議數(shù)據(jù)運(yùn)營(yíng):根據(jù)資產(chǎn)價(jià)值評(píng)估結(jié)果,提供資源和調(diào)度優(yōu)化建議,提升高價(jià)值資產(chǎn)保障能力數(shù)據(jù)服務(wù):開(kāi)展熱點(diǎn)推薦等基于數(shù)據(jù)價(jià)值提升的服務(wù)06.數(shù)據(jù)資產(chǎn)安全舉措:與服務(wù)對(duì)接中的安全管控規(guī)劃(創(chuàng)立)建設(shè)目標(biāo)建議舉措將服務(wù)平臺(tái)作為大數(shù)據(jù)中心的租戶,通過(guò)完善大數(shù)據(jù)平臺(tái)與服務(wù)平臺(tái)之間數(shù)據(jù)安全的管控機(jī)制,保障服務(wù)平臺(tái)使用數(shù)據(jù)的安全。實(shí)行數(shù)據(jù)安全機(jī)制四級(jí)管控:基于服務(wù)層租戶。為服務(wù)層分配一個(gè)統(tǒng)一的租戶,應(yīng)用訪問(wèn)該租戶下的數(shù)據(jù)。基于應(yīng)用提供的標(biāo)識(shí),對(duì)應(yīng)用進(jìn)行數(shù)據(jù)授權(quán)?;谧鈶羰跈?quán)文件。大數(shù)據(jù)資產(chǎn)平臺(tái)已有租戶將授權(quán)文件上傳至服務(wù)層,基于文件進(jìn)行數(shù)據(jù)授權(quán)。數(shù)據(jù)授權(quán)。通過(guò)服務(wù)層申請(qǐng)相關(guān)數(shù)據(jù)訪問(wèn)權(quán)限,大數(shù)據(jù)資產(chǎn)平臺(tái)進(jìn)行授權(quán)。大數(shù)據(jù)中心服務(wù)層數(shù)據(jù)授權(quán)基于服務(wù)層租戶基于應(yīng)用基于租戶授權(quán)文件數(shù)據(jù)授權(quán)訪問(wèn)申請(qǐng)數(shù)據(jù)應(yīng)用服務(wù)注冊(cè)租戶認(rèn)證接口應(yīng)用認(rèn)證接口數(shù)據(jù)授權(quán)接口文件認(rèn)證接口細(xì)化安全管理分工界面:服務(wù)層面向應(yīng)用;大數(shù)據(jù)中心面向租戶和數(shù)據(jù);大數(shù)據(jù)中心提供相關(guān)接口由服務(wù)層調(diào)用。06.數(shù)據(jù)資產(chǎn)安全舉措:建設(shè)全面統(tǒng)一的數(shù)據(jù)安全體系(補(bǔ)充建議)建設(shè)目標(biāo)建議舉措完善敏感數(shù)據(jù)管理:實(shí)行敏感數(shù)據(jù)分層管理,對(duì)于高級(jí)敏感數(shù)據(jù)進(jìn)行嚴(yán)格管控,對(duì)于中級(jí)敏感數(shù)據(jù)進(jìn)行監(jiān)管;實(shí)行安全漏洞發(fā)現(xiàn):補(bǔ)充安全漏洞的掃描,預(yù)防各級(jí)安全隱患;擴(kuò)展全面的安全審計(jì):對(duì)于各類操作的日志進(jìn)行全面審計(jì),“亡羊補(bǔ)牢”為時(shí)不晚。數(shù)據(jù)安全與傳統(tǒng)的安全管控的區(qū)別在于,數(shù)據(jù)安全核心關(guān)注數(shù)據(jù)在使用流轉(zhuǎn)過(guò)程中各個(gè)環(huán)節(jié)中數(shù)據(jù)本身的安全問(wèn)題,比如隱私泄露、數(shù)據(jù)濫用、非法轉(zhuǎn)賣等,核心目的在于保護(hù)數(shù)據(jù)不受侵害數(shù)據(jù)安全系統(tǒng)安全網(wǎng)絡(luò)安全安全域管理網(wǎng)絡(luò)策略入侵防護(hù)管理應(yīng)用安全網(wǎng)絡(luò)傳輸管理系統(tǒng)容災(zāi)補(bǔ)丁管理漏洞管理安全策略安全規(guī)范安全流程安全審計(jì)安全范圍安全策略系統(tǒng)備份應(yīng)用漏洞管理代碼審計(jì)應(yīng)用部署安全防篡改管理網(wǎng)關(guān)組件賬號(hào)體系數(shù)據(jù)網(wǎng)關(guān)安全組件發(fā)現(xiàn)評(píng)估敏感數(shù)據(jù)發(fā)現(xiàn)漏洞發(fā)現(xiàn)評(píng)估安全級(jí)別評(píng)估保障防護(hù)隱私保護(hù)數(shù)據(jù)訪問(wèn)控制數(shù)據(jù)版權(quán)保護(hù)監(jiān)控審計(jì)日志分析安全追蹤安全告警
07.數(shù)據(jù)資產(chǎn)開(kāi)放舉措:建立數(shù)據(jù)開(kāi)放機(jī)制,助力數(shù)據(jù)價(jià)值體現(xiàn)建設(shè)目標(biāo)舉措1:開(kāi)放數(shù)據(jù)產(chǎn)品目錄數(shù)據(jù)資產(chǎn)運(yùn)營(yíng)的繁榮期需要大量人員使用與分享,促進(jìn)各市州分公司、省公司各部門的業(yè)務(wù)用戶的使用,確保數(shù)據(jù)準(zhǔn)確,改善使用體驗(yàn)共享數(shù)據(jù)模型基于業(yè)務(wù)口徑規(guī)則打造數(shù)據(jù)產(chǎn)品目錄,并開(kāi)放數(shù)據(jù)產(chǎn)品目錄,提供給各級(jí)市州公司及省公司業(yè)務(wù)部門使用“安內(nèi)”需要提供相應(yīng)的數(shù)據(jù)“問(wèn)責(zé)”制度,并且能形成問(wèn)題的閉環(huán)反饋。各個(gè)業(yè)務(wù)部門可以安心的使用數(shù)據(jù)實(shí)行模型推廣制度,使各部門本地網(wǎng)把自由好的模型分享出來(lái),并提供一種激勵(lì)的機(jī)制,提升模型整體的質(zhì)量舉措2:明確數(shù)據(jù)職責(zé)舉措3:促進(jìn)數(shù)據(jù)模型/產(chǎn)品共享通過(guò)目錄進(jìn)行模型的分享明確責(zé)任人與聯(lián)系方式,方便業(yè)務(wù)部門問(wèn)題及時(shí)溝通業(yè)務(wù)人員主要使用數(shù)據(jù)產(chǎn)品目錄目錄行業(yè)標(biāo)桿重點(diǎn)措施規(guī)劃思路回顧總結(jié)基礎(chǔ)架構(gòu)平臺(tái)能力數(shù)據(jù)資產(chǎn)運(yùn)營(yíng)數(shù)據(jù)驅(qū)動(dòng)數(shù)據(jù)驅(qū)動(dòng)舉措:構(gòu)建數(shù)據(jù)產(chǎn)品,推進(jìn)生態(tài)業(yè)務(wù)融合應(yīng)用層平臺(tái)層數(shù)據(jù)層DaaS數(shù)據(jù)對(duì)象服務(wù)封裝....對(duì)外數(shù)據(jù)服務(wù)封裝標(biāo)簽服務(wù)指標(biāo)服務(wù)模型服務(wù)客戶洞察產(chǎn)品洞察原子數(shù)據(jù)服務(wù)數(shù)據(jù)產(chǎn)品服務(wù)渠道洞察位置模型……風(fēng)控模型DatainModelDataisObject基礎(chǔ)公共模型標(biāo)簽庫(kù)指標(biāo)庫(kù)數(shù)據(jù)對(duì)象服務(wù)用戶增強(qiáng)新增已有外部用戶構(gòu)建以“數(shù)據(jù)驅(qū)動(dòng)2.0”為核心思想的數(shù)據(jù)運(yùn)營(yíng)模式,通過(guò)引入“數(shù)據(jù)湖”完成對(duì)全生態(tài)數(shù)據(jù)融合的同時(shí),設(shè)計(jì)DaaS(包括:原子化數(shù)據(jù)服務(wù)、賦能型數(shù)據(jù)產(chǎn)品封裝能力),并夯實(shí)數(shù)據(jù)向資產(chǎn)化演進(jìn)的服務(wù)基礎(chǔ),實(shí)現(xiàn)數(shù)據(jù)從“入湖”到“智慧運(yùn)營(yíng)”自底而上的價(jià)值傳遞根據(jù)電信集團(tuán)轉(zhuǎn)型3.0戰(zhàn)略打造新一代智慧運(yùn)營(yíng)體系,對(duì)省分提出業(yè)務(wù)生態(tài)化的要求建設(shè):1、DaaS
數(shù)據(jù)服務(wù)體系構(gòu)建企業(yè)級(jí)數(shù)據(jù)服務(wù)體系(DaaS),實(shí)現(xiàn)數(shù)據(jù)中心能力顯性化和集中統(tǒng)一管理,面向公司生產(chǎn)系統(tǒng)、自有平臺(tái)、合作伙伴等用戶提供一系列數(shù)據(jù)積木,自由組裝,快速構(gòu)建各類應(yīng)用2、平臺(tái)層
可視化服務(wù)封裝打造可視化、可配置、可計(jì)量、可監(jiān)控的數(shù)據(jù)服務(wù)封裝能力體系,完成數(shù)據(jù)服務(wù)實(shí)例場(chǎng)景化封裝3、數(shù)據(jù)層
全生態(tài)數(shù)據(jù)融合融合源于各個(gè)不同實(shí)體中的數(shù)據(jù),形成共享的數(shù)據(jù)社區(qū),重點(diǎn)落實(shí)標(biāo)簽庫(kù)、指標(biāo)庫(kù)、數(shù)據(jù)對(duì)象服務(wù)(主要面向非結(jié)構(gòu)化數(shù)據(jù)、流式數(shù)據(jù))數(shù)據(jù)驅(qū)動(dòng)舉措:對(duì)內(nèi)服務(wù)精益運(yùn)營(yíng),應(yīng)用快速支撐
產(chǎn)品信息渠道信息資源信息營(yíng)銷信息對(duì)內(nèi)API分類體系基本信息用戶屬性API區(qū)域歸屬API……通信行為客戶通話API對(duì)端號(hào)碼通信API……個(gè)人消費(fèi)客戶服務(wù)位置軌跡+個(gè)人信息4G流量套餐訂購(gòu)API流量年包API短信APIiTVAPI189郵箱API手機(jī)視頻API手機(jī)游戲API手機(jī)投注API……主套餐信息API+主套餐+流量產(chǎn)品+數(shù)據(jù)業(yè)務(wù)渠道基礎(chǔ)信息API+渠道基本信息終端銷售情況APIIMEI狀態(tài)API換機(jī)用戶API集團(tuán)TAC使用情況API用戶IMEI使用情況API+終端折扣類活動(dòng)辦理API成本類活動(dòng)辦理API營(yíng)銷效果評(píng)估API……+營(yíng)銷活動(dòng)信息客戶信息+政企信息+家庭信息+優(yōu)惠產(chǎn)品+服務(wù)功能+SP產(chǎn)品+入網(wǎng)渠道信息入網(wǎng)渠道API+業(yè)務(wù)電話渠道API短信渠道API實(shí)體渠道業(yè)務(wù)量API網(wǎng)上渠道業(yè)務(wù)量API渠道養(yǎng)卡API網(wǎng)上渠道業(yè)務(wù)量API基于業(yè)務(wù)場(chǎng)景完成梳理對(duì)內(nèi)OpenAPI資產(chǎn)目錄(目前已根據(jù)中國(guó)電信業(yè)務(wù)特征整理88個(gè)API,涵蓋2325個(gè)標(biāo)簽、指標(biāo));對(duì)內(nèi)OpenAPI體系主要分為“客戶信息、產(chǎn)品信息、渠道信息、資源信息、營(yíng)銷信息”五大類實(shí)例OpenAPI應(yīng)用實(shí)例:終端銷售場(chǎng)景1、根據(jù)四川電信業(yè)務(wù)場(chǎng)景梳理符合用戶習(xí)慣、語(yǔ)言易懂、便于優(yōu)化迭代的OpenAPI資產(chǎn)目錄2、構(gòu)建一系列場(chǎng)景化OpenAPI封裝實(shí)例數(shù)據(jù)驅(qū)動(dòng)建議:對(duì)外融合行業(yè)發(fā)展,打造數(shù)據(jù)社區(qū)通信信息位置信息興趣偏好履約能力對(duì)外API分類體系個(gè)人實(shí)名認(rèn)證API個(gè)人基本信息API個(gè)人經(jīng)歷API用戶等級(jí)API終端信息API+個(gè)人信息企業(yè)基本信息API企業(yè)等級(jí)API+企業(yè)信息家庭基本信息API+家庭信息產(chǎn)品使用API產(chǎn)品使用API通話信息API流量使用API短/彩信發(fā)送API+個(gè)人客戶+企業(yè)客戶+家庭客戶常駐區(qū)域API位置數(shù)據(jù)API指定區(qū)域的常駐用戶群特征API位置偏好標(biāo)簽API常見(jiàn)軌跡API+位置信息服裝偏好API+衣早餐偏好API中餐偏好API晚餐偏好API宵夜偏好API零食偏好API+食旅游娛樂(lè)教育健康理財(cái)運(yùn)動(dòng)終端資訊寵物APP偏好信用等級(jí)API身份特征API消費(fèi)情況API行為習(xí)慣API歷史信用API系統(tǒng)參數(shù)API+個(gè)人征信集團(tuán)屬性API消費(fèi)情況API系統(tǒng)參數(shù)API+企業(yè)征信基礎(chǔ)信息語(yǔ)言易懂用外部用戶能看懂的語(yǔ)言詮釋移動(dòng)開(kāi)放出去的數(shù)據(jù),例如客戶ARPU表達(dá)成“消費(fèi)”。外部用戶對(duì)移動(dòng)數(shù)據(jù)結(jié)構(gòu)不了解,所以需從用戶找數(shù)據(jù)的使用習(xí)慣出發(fā),設(shè)計(jì)API的分類體系。符合習(xí)慣后續(xù)將根據(jù)用戶的意見(jiàn)不斷迭代優(yōu)化。例如新增考慮特定行業(yè)/群體等需求去劃分API分類。迭代優(yōu)化對(duì)外API分類原則基于對(duì)外合作市場(chǎng)訴求完成梳理對(duì)外OpenAPI資產(chǎn)目錄(目前已根據(jù)行業(yè)客戶需求整理對(duì)外API64個(gè),涵蓋534個(gè)指標(biāo));對(duì)外API體系主要分為“基礎(chǔ)信息、通信信息、位置信息、興趣偏好、履約能力”五大類實(shí)例1、收集四川電信業(yè)務(wù)部門合作運(yùn)營(yíng)的需求(如:iTV),針對(duì)需求度較高、普適性較高的OpenAPI制定開(kāi)放策略(開(kāi)放對(duì)象、使用權(quán)限、優(yōu)先級(jí)等)2、以數(shù)據(jù)分級(jí)體系、數(shù)據(jù)提供流程、數(shù)據(jù)安全保障(數(shù)據(jù)使用前、中、后管控)等手段,規(guī)避客戶敏感信息泄露,完善數(shù)據(jù)安全體系建設(shè)舉措:發(fā)揮數(shù)據(jù)資產(chǎn)管理優(yōu)勢(shì),深入發(fā)掘數(shù)據(jù)價(jià)值,打造數(shù)據(jù)中心新應(yīng)用專題應(yīng)用深入驅(qū)動(dòng)型應(yīng)用的探索,發(fā)揮數(shù)據(jù)資產(chǎn)管理平臺(tái)的各項(xiàng)能力,為業(yè)務(wù)提供的專題應(yīng)用,面向使用者、運(yùn)維者、管理者、開(kāi)發(fā)者提供可視化、可聯(lián)動(dòng)、可還原的數(shù)據(jù)分析報(bào)表,并實(shí)現(xiàn)血緣關(guān)系、運(yùn)維信息、質(zhì)量信息的展現(xiàn)。光網(wǎng)、無(wú)線專題充分利用可視化能力,建立告警分析、派單分析、退服分析、投訴分析等專題分析風(fēng)險(xiǎn)管控專題完成業(yè)管所需的風(fēng)控模型開(kāi)發(fā)并通過(guò)工具實(shí)現(xiàn)清單下發(fā)功能利用可視化能力完成對(duì)專題應(yīng)用的建設(shè)通過(guò)機(jī)器學(xué)習(xí)能力,對(duì)風(fēng)險(xiǎn)進(jìn)行深度識(shí)別,形成有效的分析報(bào)告收入保障專題建立用戶收入全視圖,對(duì)收入預(yù)測(cè)進(jìn)行基礎(chǔ)數(shù)據(jù)支撐深入研究收入,提供專題型的決策參考信息,如:發(fā)展效益、活動(dòng)評(píng)估、收入趨勢(shì)等ITV專題整合ITV業(yè)務(wù)平臺(tái)數(shù)據(jù),進(jìn)行匯總和整合,以構(gòu)建多層次業(yè)務(wù)分析體系,多維度的業(yè)務(wù)分析模型為營(yíng)銷提供精準(zhǔn)運(yùn)營(yíng)管理,通過(guò)用戶畫像,根據(jù)用戶興趣內(nèi)容和行為畫像進(jìn)行推薦工具層資產(chǎn)管理平臺(tái)數(shù)據(jù)資產(chǎn)管理核心數(shù)據(jù)處理接口層整合層中間層匯總層調(diào)度執(zhí)行信息數(shù)據(jù)質(zhì)量信息元數(shù)據(jù)血緣關(guān)系資產(chǎn)評(píng)估…數(shù)據(jù)自服務(wù)工具(DTS)可視化開(kāi)發(fā)、自助取數(shù)、自助報(bào)表智慧數(shù)據(jù)門戶報(bào)表、專題發(fā)布應(yīng)用管理收入保障風(fēng)險(xiǎn)管控ITV光網(wǎng)、無(wú)線應(yīng)用層服務(wù)層數(shù)據(jù)封裝服務(wù)血緣關(guān)系服務(wù)質(zhì)量信息服務(wù)運(yùn)維信息服務(wù)資產(chǎn)價(jià)值信息服務(wù)…目錄行業(yè)標(biāo)桿重點(diǎn)措施規(guī)劃思路回顧總結(jié)回顧總結(jié)本次大數(shù)據(jù)中心規(guī)劃回顧能力層能力說(shuō)明基礎(chǔ)架構(gòu)舉措:基于現(xiàn)有能力,擴(kuò)展構(gòu)建數(shù)據(jù)湖舉措:引入MPP架構(gòu),完善大數(shù)據(jù)平臺(tái)的處理能力平臺(tái)能力
舉措:實(shí)現(xiàn)可視化的多租戶管理流程舉措:完善平臺(tái)組件能力,支撐本地網(wǎng)開(kāi)發(fā)全流程舉措:提升實(shí)時(shí)分析的能力舉措:提升實(shí)時(shí)事件處理能力舉措:構(gòu)建安全的數(shù)據(jù)開(kāi)放形式舉措:提高本地網(wǎng)應(yīng)用快速部署能力舉措:提升診斷、取數(shù)自服務(wù)能力,支撐移動(dòng)端開(kāi)發(fā)舉措:優(yōu)化門戶實(shí)現(xiàn)報(bào)表支撐型向智慧服務(wù)型轉(zhuǎn)變建議:基于從硬件到應(yīng)用端到端的運(yùn)維保障數(shù)據(jù)資產(chǎn)管控建議:多部門保障的數(shù)據(jù)資產(chǎn)管理組織舉措:制定完善的數(shù)據(jù)標(biāo)準(zhǔn)規(guī)范,規(guī)劃整體數(shù)據(jù)架構(gòu)舉措:全流程的資產(chǎn)開(kāi)發(fā)規(guī)劃舉措:強(qiáng)化數(shù)據(jù)資產(chǎn)診斷,保障數(shù)據(jù)品質(zhì)舉措:完善數(shù)據(jù)資產(chǎn)評(píng)估,體現(xiàn)數(shù)據(jù)價(jià)值舉措:與服務(wù)對(duì)接中的安全管控規(guī)劃(創(chuàng)立)舉措:建設(shè)全面統(tǒng)一的數(shù)據(jù)安全體系(補(bǔ)充建議)舉措:建立數(shù)據(jù)開(kāi)放機(jī)制,助力數(shù)據(jù)價(jià)值體現(xiàn)數(shù)據(jù)驅(qū)動(dòng)舉措:構(gòu)建數(shù)據(jù)產(chǎn)品,推進(jìn)生態(tài)業(yè)務(wù)融合舉措:對(duì)內(nèi)服務(wù)精益運(yùn)營(yíng),應(yīng)用快速支撐建議:對(duì)外融合行業(yè)發(fā)展,打造數(shù)據(jù)社區(qū)舉措:發(fā)揮數(shù)據(jù)資產(chǎn)管理優(yōu)勢(shì),深入發(fā)掘數(shù)據(jù)價(jià)值,打造數(shù)據(jù)中心新應(yīng)用
感謝聆聽(tīng)!數(shù)據(jù)因我們而不同!請(qǐng)您批評(píng)指正!附錄數(shù)據(jù)湖傳統(tǒng)架構(gòu)的變遷DatabasesFilesStreamsTransactionsLogsEventsDatawarehouse?Hadoop?ETLETL新一代大數(shù)據(jù)中心傳統(tǒng)數(shù)據(jù)倉(cāng)庫(kù)DatabasesFilesStreamsTransactionsLogsEventsDatawarehouseDataLake數(shù)據(jù)湖為什么要引入數(shù)據(jù)湖?引入數(shù)據(jù)湖現(xiàn)狀01數(shù)據(jù)湖,以低成本收集并存儲(chǔ)任何規(guī)模、所有類型的數(shù)據(jù)并安全提供使用,符合中國(guó)電信對(duì)”N”省分?jǐn)?shù)據(jù)中心建設(shè)高安全、耐久、可用、可擴(kuò)展性的要求集團(tuán)“1+N”戰(zhàn)略,要求四川電信作為先進(jìn)省分保持?jǐn)?shù)據(jù)中心架構(gòu)穩(wěn)定性和前瞻性02數(shù)據(jù)湖,支持對(duì)非結(jié)構(gòu)化、流式數(shù)據(jù)進(jìn)行對(duì)象存儲(chǔ)和持久化,并支持?jǐn)?shù)據(jù)對(duì)象的快速檢索、實(shí)時(shí)訪問(wèn)光網(wǎng)、無(wú)線數(shù)據(jù)及企業(yè)外部數(shù)據(jù)亟待收集,對(duì)非(半)結(jié)構(gòu)化數(shù)據(jù)、流式數(shù)據(jù)的處理缺乏經(jīng)驗(yàn)03數(shù)據(jù)湖,可快速輕松地執(zhí)行新類型的數(shù)據(jù)統(tǒng)一匯聚和分析,支持新接口類型包括如corba、socket、snmp、tmf、SFTP、SSH等,支持秒級(jí)、毫秒級(jí)數(shù)據(jù)處理能力數(shù)據(jù)匯聚的復(fù)雜度增加,面臨數(shù)據(jù)接口類型超過(guò)10種,前端業(yè)務(wù)要求數(shù)據(jù)中心具備實(shí)時(shí)數(shù)據(jù)處理能力04數(shù)據(jù)湖,基于“注冊(cè)”機(jī)制,任何入湖的數(shù)據(jù)都將注冊(cè)到資產(chǎn)目錄進(jìn)行統(tǒng)一管理,同時(shí)具備自行更新和管理數(shù)據(jù)對(duì)象索引、元數(shù)據(jù)的能力,方便進(jìn)行開(kāi)放使用數(shù)據(jù)資產(chǎn)管理的難度增加,面臨全生態(tài)數(shù)據(jù)(B\O\M域,網(wǎng)絡(luò)、外部等)進(jìn)行的統(tǒng)一、有效管理,無(wú)成例可循05數(shù)據(jù)湖,適合lambda架構(gòu)設(shè)計(jì),支持使用一系列分析引擎,用于高級(jí)數(shù)據(jù)分析、實(shí)時(shí)流式+批量數(shù)據(jù)復(fù)合分析、預(yù)測(cè)性分析、人工智能(AI)和機(jī)器學(xué)習(xí)等場(chǎng)景生態(tài)圈融合業(yè)務(wù)發(fā)展,驅(qū)動(dòng)數(shù)據(jù)資產(chǎn)價(jià)值的發(fā)掘,對(duì)數(shù)據(jù)中心具備對(duì)復(fù)雜事件的處理和分析能力數(shù)據(jù)湖如何構(gòu)建數(shù)據(jù)湖?亞馬遜:什么是真正的數(shù)據(jù)湖?Collect&StoreCatalogue&SearchEntitlementsAPI&UIAnAPIanduserinterfacethatexposethesefeaturestointernalandexternalusersArobustsetofsecuritycontrols–governancethroughtechnology,notpolicyAsearchindexandworkflowwhichenablesdatadiscoveryAfoundationofhighlydurabledatastorageandstreamingofanytypeofdata采集和存儲(chǔ)高可靠按照輸入源存儲(chǔ)原數(shù)據(jù)支持任何類型的數(shù)據(jù)價(jià)格低廉目錄和搜索元數(shù)據(jù)湖用于概括性的統(tǒng)計(jì)和數(shù)據(jù)分類管理數(shù)據(jù)發(fā)現(xiàn)和管理的簡(jiǎn)化模型授權(quán)數(shù)據(jù)加密保護(hù)身份驗(yàn)證和授權(quán)訪問(wèn)控制和限制API&UI將數(shù)據(jù)湖開(kāi)放給用戶程序化的查詢目錄開(kāi)放搜索API確保授權(quán)是得到認(rèn)可的1234數(shù)據(jù)湖資產(chǎn)注冊(cè)即采集AWS作為公有云提供面向互聯(lián)網(wǎng)的數(shù)據(jù)安全、數(shù)據(jù)高吞吐量、數(shù)據(jù)加速傳輸?shù)幕A(chǔ)設(shè)施能力,而采集能力實(shí)現(xiàn)使用者自定義完成AWSDirectConnectAmazonKinesisFirehoseAWSSnowballISVConnectorsS3Transfer
AccelerationAWSStorage
Gateway四川電信數(shù)據(jù)中心面向企業(yè)級(jí)應(yīng)用支撐(私有云),需要提供面向企業(yè)級(jí)統(tǒng)一的數(shù)據(jù)入湖規(guī)范和資產(chǎn)注冊(cè)能力,同時(shí)也提供企業(yè)級(jí)統(tǒng)一的采集能力,實(shí)現(xiàn)資產(chǎn)注冊(cè)即采集數(shù)據(jù)入湖數(shù)據(jù)資產(chǎn)管控平臺(tái)數(shù)據(jù)源網(wǎng)絡(luò)……M域O域B域平臺(tái)資產(chǎn)注冊(cè)統(tǒng)一適配平臺(tái)統(tǒng)一提供Databases、Files、Streams類采集組件,并通過(guò)“數(shù)據(jù)管控API”將采集的數(shù)據(jù)資產(chǎn)信息,自動(dòng)注冊(cè)到數(shù)據(jù)資產(chǎn);特殊接口可繼承“自定義”采集框架,完成自定義采集方式、邏輯實(shí)現(xiàn),但需注冊(cè)來(lái)源與格式、入湖目標(biāo)與格式信息。企業(yè)級(jí)統(tǒng)一的Collect采集和存儲(chǔ)高可靠按照輸入源存儲(chǔ)原數(shù)據(jù)支持任何類型的數(shù)據(jù)價(jià)格低廉1為保障數(shù)據(jù)中心各業(yè)務(wù)系統(tǒng)運(yùn)行的穩(wěn)定性與可靠性,數(shù)據(jù)源接入層面應(yīng)該優(yōu)先要建立起完善的保障機(jī)制,目前,數(shù)據(jù)中心已經(jīng)編制了與各系統(tǒng)接入的接口規(guī)范,但規(guī)范落地推進(jìn)相對(duì)緩慢,無(wú)法滿足業(yè)務(wù)保障的要求。數(shù)據(jù)湖數(shù)據(jù)源接入保障文件采集庫(kù)內(nèi)直采流采集采用校驗(yàn)文件方式驗(yàn)證,對(duì)采集過(guò)來(lái)的文件進(jìn)行校驗(yàn);需要源系統(tǒng)提供校驗(yàn)文件(文件名,數(shù)據(jù)日期,條數(shù),大小)通過(guò)直接連接數(shù)據(jù)庫(kù)獲取數(shù)據(jù);需要源系統(tǒng)提供直采表日志信息,同時(shí)需要保證直采表在采集過(guò)程中靜止通過(guò)流連接技術(shù),采集實(shí)時(shí)數(shù)據(jù);需要源系統(tǒng)在交互中提供消息包數(shù)量,供數(shù)據(jù)校驗(yàn)使用。源系統(tǒng)源系統(tǒng)目標(biāo)系統(tǒng)目標(biāo)系統(tǒng)源系統(tǒng)目標(biāo)系統(tǒng)存在的問(wèn)題制定規(guī)范推進(jìn)源系統(tǒng)進(jìn)行保障1、源系統(tǒng)提供數(shù)據(jù)不穩(wěn)定,導(dǎo)致前端業(yè)務(wù)使用數(shù)據(jù)不及時(shí),不準(zhǔn)確。2、接口建立不規(guī)范,無(wú)相互握手機(jī)制,數(shù)據(jù)提供延遲,導(dǎo)致數(shù)據(jù)中心補(bǔ)錄數(shù)據(jù)流程繁瑣、復(fù)雜。3、接口規(guī)范推進(jìn)困難,源系統(tǒng)配合改造力度低下。握手機(jī)制保障握手機(jī)制保障握手機(jī)制保障采集和存儲(chǔ)高可靠按照輸入源存儲(chǔ)原數(shù)據(jù)支持任何類型的數(shù)據(jù)價(jià)格低廉1數(shù)據(jù)湖數(shù)據(jù)湖的存儲(chǔ)能力SearchAccessQueryProcessArchiveAmazonRDSAmazonDynamoDBAmazonElasticsearchServiceAmazon
GlacierAmazonS3AmazonRedshiftAmazonElasticMapReduceAmazonMachineLearningAmazonElastiCacheSearchAccessQueryProcessArchiveAws存儲(chǔ)架構(gòu)什么類型的數(shù)據(jù)存儲(chǔ)在數(shù)據(jù)湖中?非結(jié)構(gòu)化數(shù)據(jù)原始存儲(chǔ)格式(logs,dumpfile)圖片,音頻,視頻,任何原始文件。半結(jié)構(gòu)化數(shù)據(jù)JSON,XMLfile。
結(jié)構(gòu)化數(shù)據(jù)CSVORC,Parquet等數(shù)據(jù)中心的存儲(chǔ)架構(gòu)采集和存儲(chǔ)高可靠按照輸入源存儲(chǔ)原數(shù)據(jù)支持任何類型的數(shù)據(jù)價(jià)格低廉1數(shù)據(jù)湖目錄與搜索1:引入Lambda架構(gòu),提升平臺(tái)流處理和批處理統(tǒng)一視圖的能力。2:完善資產(chǎn)管理平臺(tái)在“數(shù)據(jù)湖”層面“數(shù)據(jù)目錄與注冊(cè)”的管控能力3:OCSearch產(chǎn)品,提升平臺(tái)對(duì)非結(jié)構(gòu)化數(shù)據(jù)的查詢和檢索能力目錄和搜索元數(shù)據(jù)湖用于概括性的統(tǒng)計(jì)和數(shù)據(jù)分類管理數(shù)據(jù)發(fā)現(xiàn)和管理的簡(jiǎn)化模型2數(shù)據(jù)湖批處理和流處理的融合-LambdaLambda框架介紹:Lambda整合離線計(jì)算和實(shí)時(shí)計(jì)算,集成了Hadoop,Kafka,Storm,Spark,Hbase等各類大數(shù)據(jù)組件。Lambda實(shí)現(xiàn)了真正的流處理、批處理混合,同時(shí)統(tǒng)一了編程接口,使得整體處理架構(gòu)簡(jiǎn)單化。架構(gòu)組件選型:根據(jù)四川電信業(yè)務(wù)特點(diǎn),實(shí)時(shí)流數(shù)據(jù)采用Kafka框架,批處理層存儲(chǔ)采用數(shù)據(jù)湖HDFS;計(jì)算采用MapReduce或者Spark;實(shí)時(shí)處理層采取Storm或者Spark
Streaming,存儲(chǔ)采用Redis;服務(wù)層查詢少量的結(jié)果數(shù)據(jù)當(dāng)前大數(shù)據(jù)平臺(tái)隨著數(shù)據(jù)量的快速增長(zhǎng),數(shù)據(jù)種類多樣化,應(yīng)用更加豐富,導(dǎo)致數(shù)據(jù)分析的時(shí)間越來(lái)越長(zhǎng),基于目前四川電信大部分應(yīng)用批處理與流處理并行的現(xiàn)狀,選擇Lambda作為通用架構(gòu),助力四川電信構(gòu)建敏捷化的大數(shù)據(jù)平臺(tái)。位置信令數(shù)據(jù)位置信令全量信息用戶歷史軌跡視圖批處理(循環(huán)重新計(jì)算)批處理層服務(wù)層用戶位置流處理用戶實(shí)時(shí)軌跡視圖實(shí)時(shí)計(jì)算(增量計(jì)算)用戶實(shí)時(shí)軌跡視圖1用戶實(shí)時(shí)軌跡視圖2實(shí)時(shí)計(jì)算視圖用戶歷史軌跡視圖1用戶歷史軌跡視圖2批處理視圖查詢獲取用戶軌跡視圖合并位置服務(wù)場(chǎng)景:數(shù)據(jù)湖非結(jié)構(gòu)數(shù)據(jù)檢索工具數(shù)據(jù)檢索工具數(shù)據(jù)源包括結(jié)構(gòu)化數(shù)據(jù)、半結(jié)構(gòu)化數(shù)據(jù)、非結(jié)構(gòu)化數(shù)據(jù),主要功能包括分詞檢索、排序、字段組合等功能。數(shù)據(jù)源結(jié)構(gòu)化數(shù)據(jù)圖像文件聲音文件網(wǎng)頁(yè)文件日志其他知識(shí)庫(kù)檢索平臺(tái)統(tǒng)一計(jì)算統(tǒng)一存儲(chǔ)HDFS(大文件)Hbase(小文件、結(jié)構(gòu)化數(shù)據(jù))Hive(數(shù)據(jù)庫(kù)管理)Solr(全文檢索工具)數(shù)據(jù)湖授權(quán)認(rèn)證Kerberosknox授權(quán)Ranger審計(jì)RangerSolrHDFS數(shù)據(jù)加密數(shù)據(jù)傳輸數(shù)據(jù)存儲(chǔ)通過(guò)Ambari,Ranger實(shí)現(xiàn)集中配置和管理建立完整的數(shù)據(jù)湖安全體系授權(quán)數(shù)據(jù)加密保護(hù)身份驗(yàn)證和授權(quán)訪問(wèn)控制和限制3數(shù)據(jù)湖API&UIAPIGatewayUI-ElasticBeanstalkAWSLambdaMetadataIndexUsersIAMTVM-ElasticBeanstalk1:滿足數(shù)據(jù)湖中非結(jié)構(gòu)化數(shù)據(jù)的API開(kāi)發(fā)、封裝和開(kāi)放能力。API&UI將數(shù)據(jù)湖開(kāi)放給用戶程序化的查詢目錄開(kāi)放搜索API確保授權(quán)是得到認(rèn)可的2:引入OCUE產(chǎn)品,提供對(duì)數(shù)據(jù)湖區(qū)統(tǒng)一的UI界面。4數(shù)據(jù)湖數(shù)據(jù)湖內(nèi)數(shù)據(jù)的API封裝調(diào)用APIAPI路由認(rèn)證與權(quán)限內(nèi)容解析返回結(jié)果數(shù)據(jù)結(jié)果數(shù)據(jù)脫敏加密數(shù)據(jù)湖的API封裝過(guò)程“API封裝“圍繞認(rèn)證與權(quán)限檢驗(yàn),訪問(wèn)控制,數(shù)據(jù)脫敏等過(guò)程,通過(guò)注冊(cè)信息,針對(duì)結(jié)果數(shù)據(jù)設(shè)置個(gè)性化的脫敏規(guī)則及用戶數(shù)據(jù)授權(quán)規(guī)則,在實(shí)際調(diào)用時(shí)即可對(duì)返回?cái)?shù)據(jù)進(jìn)行安全控制,保證API調(diào)用過(guò)程安全合規(guī)。結(jié)果數(shù)據(jù)格式轉(zhuǎn)換數(shù)據(jù)湖訪問(wèn)控制數(shù)據(jù)湖統(tǒng)一的平臺(tái)可視化訪問(wèn)界面橘云大數(shù)據(jù)平臺(tái)用戶操作界面(OCUE)是面向大數(shù)據(jù)平臺(tái)用戶的可視化操作界面。用戶可以在瀏覽器端的Web控制臺(tái)上與Hadoop集群進(jìn)行交互分析處理數(shù)據(jù),例如操作HDFS上的數(shù)據(jù),運(yùn)行MapReduceJob等。雖然大數(shù)據(jù)平臺(tái)各組件都有自己的使用方式和開(kāi)發(fā)接口,比如Hive提供的命令行終端,但是當(dāng)用戶需要訪問(wèn)多個(gè)組件時(shí),需要打開(kāi)不同的終端或者界面,需要登錄不同的系統(tǒng)。OCUE統(tǒng)一了各個(gè)項(xiàng)目的開(kāi)發(fā)方式,提供了一個(gè)web的界面來(lái)開(kāi)發(fā)和調(diào)試任務(wù),OCUE能做什么?1,訪問(wèn)HDFS和文件瀏覽
2,通過(guò)web調(diào)試和開(kāi)發(fā)hive以及數(shù)據(jù)結(jié)果展示
3,查詢solr和結(jié)果展示,報(bào)表生成
4,通過(guò)web調(diào)試和開(kāi)發(fā)impala交互式SQLQuery
5,spark調(diào)試和開(kāi)發(fā)
6,Pig開(kāi)發(fā)和調(diào)試
7,oozie任務(wù)的開(kāi)發(fā),監(jiān)控,和工作流協(xié)調(diào)調(diào)度
8,Hbase數(shù)據(jù)查詢和修改,數(shù)據(jù)展示
9,Hive的元數(shù)據(jù)(metastore)查詢
10,MapReduce任務(wù)進(jìn)度查看,日志追蹤
11,創(chuàng)建和提交MapReduce,Streaming,Javajob任務(wù)
12,Sqoop2的開(kāi)發(fā)和調(diào)試
13,Zookeeper的瀏覽和編輯
14,數(shù)據(jù)庫(kù)(MySQL,PostGres,SQlite,Oracle)的查詢和展示專題與應(yīng)用風(fēng)控專題利劍行動(dòng)寬帶ITV體驗(yàn)卡利劍行動(dòng):通過(guò)風(fēng)控模型能夠準(zhǔn)確掌握客戶發(fā)展情況、客戶來(lái)源、終端、價(jià)值貢獻(xiàn),實(shí)現(xiàn)客戶價(jià)值管控。寬帶:通過(guò)風(fēng)控模型能夠準(zhǔn)確掌握寬帶格局戰(zhàn)下新增寬帶的質(zhì)量和存量寬帶的質(zhì)量,實(shí)現(xiàn)客戶質(zhì)量管控。ITV:通過(guò)風(fēng)控模型能夠準(zhǔn)確掌握新增ITV質(zhì)量和存量ITV質(zhì)量,實(shí)現(xiàn)客戶質(zhì)量管控。體驗(yàn)卡:通過(guò)風(fēng)控模型能夠準(zhǔn)確掌握體驗(yàn)卡的新增、體驗(yàn)情況、充值轉(zhuǎn)正情況、客戶體驗(yàn)期結(jié)束后的實(shí)際留存情況,未規(guī)模發(fā)展,實(shí)現(xiàn)客戶營(yíng)銷管控。目標(biāo):建立完整風(fēng)控體制,管控信息數(shù)據(jù)的采集、傳遞、使用和存儲(chǔ)。建立智能風(fēng)控體系,實(shí)現(xiàn)各級(jí)業(yè)務(wù)部門對(duì)客戶價(jià)值、質(zhì)量管理。專題分析寬帶虛假用戶識(shí)別模型支撐:為利劍、寬帶、ITV、體驗(yàn)卡建立風(fēng)險(xiǎn)數(shù)據(jù)模型,協(xié)助業(yè)管部門完成風(fēng)險(xiǎn)分析及清單下發(fā)。專題分析:根據(jù)分析結(jié)果進(jìn)行可視化專題的設(shè)計(jì),通過(guò)不同視角對(duì)風(fēng)險(xiǎn)進(jìn)行監(jiān)控和識(shí)別。深度洞察:利用數(shù)據(jù)挖掘技術(shù),對(duì)寬帶虛假用戶的識(shí)別,協(xié)助業(yè)務(wù)部門完成寬帶風(fēng)險(xiǎn)的監(jiān)控。專題與應(yīng)用收入保障用戶收入全視圖新增/存量用戶價(jià)值各接口/系統(tǒng)的收入及結(jié)構(gòu)各業(yè)務(wù)的收入及構(gòu)成用戶清單級(jí)的收入展現(xiàn)監(jiān)控報(bào)表及分析收入過(guò)程的異點(diǎn)監(jiān)控全收入的異常變化監(jiān)控關(guān)鍵監(jiān)控指標(biāo)的提供重點(diǎn)業(yè)務(wù)收入支撐及分析專業(yè)及深度應(yīng)用各專業(yè)市場(chǎng)、各類重點(diǎn)業(yè)務(wù)的經(jīng)營(yíng)及考核分析支撐模型深入研究收入,提供專題型的決策參考信息,如:發(fā)展效益、活動(dòng)評(píng)估、收入趨勢(shì)等收入保障能力目標(biāo)總收入:253.61萬(wàn)元融合產(chǎn)品253.61萬(wàn)元單產(chǎn)品253.61萬(wàn)元自主產(chǎn)品253.61萬(wàn)元套餐新增253.61萬(wàn)元成員加入253.61萬(wàn)元保底補(bǔ)差253.61萬(wàn)元電視253.61萬(wàn)元寬帶253.61萬(wàn)元手機(jī)253.61萬(wàn)元單C253.61萬(wàn)元單寬253.61萬(wàn)元單ITV253.61萬(wàn)元………寬帶253.61萬(wàn)元包月功能費(fèi)253.61萬(wàn)元…用戶收入全視圖CRM計(jì)費(fèi)結(jié)算代理商監(jiān)控報(bào)表及分析收入預(yù)測(cè)發(fā)展效益活動(dòng)評(píng)估決策支撐深度應(yīng)用專題與應(yīng)用IPTV專題分析數(shù)據(jù)應(yīng)用模塊用戶發(fā)展業(yè)務(wù)訂購(gòu)活動(dòng)響應(yīng)直播推薦關(guān)聯(lián)推薦內(nèi)容預(yù)測(cè)節(jié)目決策營(yíng)銷決策廣告投放…資產(chǎn)管理平臺(tái)用戶訂購(gòu)模型用戶行為模型應(yīng)用商城訂購(gòu)內(nèi)容分析模型營(yíng)銷活動(dòng)模型關(guān)聯(lián)推薦模型ITV手機(jī)門戶IPTV業(yè)務(wù)在對(duì)現(xiàn)有分散業(yè)務(wù)平臺(tái)數(shù)據(jù)整合基礎(chǔ)上,利用資產(chǎn)管理平臺(tái)的各項(xiàng)能力,以應(yīng)用和數(shù)據(jù)為驅(qū)動(dòng),建設(shè)具有跨系統(tǒng)、準(zhǔn)實(shí)時(shí)、和面向生產(chǎn)的數(shù)據(jù)決策與運(yùn)營(yíng)的體系。業(yè)務(wù)目標(biāo)平臺(tái)統(tǒng)一整合整合IPTV業(yè)務(wù)平臺(tái)數(shù)據(jù),進(jìn)行匯總和整合,以構(gòu)建多層次業(yè)務(wù)分析體系,多維度的業(yè)務(wù)分析模型數(shù)據(jù)匯總分析基本數(shù)據(jù)分析功能,包含客戶統(tǒng)一視圖,用戶行為分析,信息查詢,常規(guī)的統(tǒng)計(jì)分析功能以及可視化動(dòng)態(tài)展現(xiàn)功能業(yè)務(wù)價(jià)值挖掘?yàn)闋I(yíng)銷提供精準(zhǔn)運(yùn)營(yíng)管理,通過(guò)用戶畫像,根據(jù)用戶興趣內(nèi)容和行為畫像進(jìn)行推薦,服務(wù)用戶,使用戶能體驗(yàn)到更個(gè)性的差異化服務(wù)實(shí)時(shí)大屏門戶專題推薦服務(wù)專題與應(yīng)用光網(wǎng)及無(wú)線專題分析告警分析派單分析退服分析投訴分析1、告警排名:按照告警的級(jí)別、對(duì)應(yīng)的分公司進(jìn)行排名和單網(wǎng)元告警數(shù)量、退服情況進(jìn)行告警排名和告警推送。2、質(zhì)差告警:分析地市全網(wǎng)重點(diǎn)質(zhì)差類告警(如4G時(shí)鐘、2\4G駐波、2\4G光功率低、板卡高溫),統(tǒng)計(jì)網(wǎng)元同一質(zhì)差告警頻次情況。1、派單率分析:用于反查合作伙伴系統(tǒng)漏派單情況,便于完善派單機(jī)制,核查系統(tǒng)漏洞。2、遺留工單分析:統(tǒng)計(jì)已派單超24/48/72小時(shí)遺留告警數(shù)量,管理各地市超長(zhǎng)告警遺留,避免重要告警不處理影響投訴。1、總退服分析:通過(guò)綜合監(jiān)控和考核報(bào)表展現(xiàn)各維度退服指標(biāo)和排名情況。2、退服原因分析:用于分析普網(wǎng)超1.5小時(shí)故障原因分類。。3、頻繁退服分析:用于分析全量退服類故障各地市高頻情況。4、長(zhǎng)期退服分析:用于分析全量退服類故障各地市超長(zhǎng)情況。1、故障類投訴分析:分析投訴原因中故障類的數(shù)據(jù)。2、業(yè)務(wù)異常投訴分析:用于分析業(yè)務(wù)驟降小區(qū)、高流量小區(qū)投訴情況。應(yīng)用層模型層網(wǎng)元事態(tài)感知模型網(wǎng)元差異化分析模型網(wǎng)元健康度評(píng)估模型…在光網(wǎng)、無(wú)線大數(shù)據(jù)接入的基礎(chǔ)上,結(jié)合數(shù)據(jù)中心資產(chǎn)管理平臺(tái)的各項(xiàng)能力,構(gòu)建可視化的光網(wǎng)、無(wú)線專題分析,通過(guò)報(bào)表、可視化圖形和自動(dòng)生成分析報(bào)告的方式,為業(yè)務(wù)運(yùn)營(yíng)提供數(shù)據(jù)分析依據(jù)。對(duì)作業(yè)計(jì)劃的電子運(yùn)維提供數(shù)據(jù)與能力支撐應(yīng)用確定計(jì)劃作業(yè)計(jì)劃審核計(jì)劃生成設(shè)備指標(biāo)項(xiàng)目計(jì)算公式后臺(tái)截取計(jì)算計(jì)劃呈現(xiàn)結(jié)果查詢計(jì)劃巡檢派單基礎(chǔ)設(shè)備集中操作統(tǒng)一采集適配(設(shè)備資料、各項(xiàng)指標(biāo)采集等)電子運(yùn)維(Oracle)數(shù)據(jù)中心清單查詢(ES)基礎(chǔ)數(shù)據(jù)(HIVE)數(shù)據(jù)湖計(jì)算語(yǔ)義抽取語(yǔ)義資產(chǎn)管理平臺(tái)性能指標(biāo)分專業(yè)入庫(kù)封裝指令發(fā)起實(shí)時(shí)返回報(bào)文封裝指令發(fā)起每次2個(gè)指標(biāo)調(diào)用實(shí)時(shí)返回同步數(shù)據(jù)采集規(guī)則及指標(biāo)規(guī)則在作業(yè)計(jì)劃管理,調(diào)用資產(chǎn)管理平臺(tái)“抽取語(yǔ)義”與“計(jì)算語(yǔ)義”能力完成性能指標(biāo)采集加工,為作業(yè)計(jì)劃中的電子運(yùn)維的“計(jì)劃呈現(xiàn)結(jié)果應(yīng)用”與“計(jì)劃巡檢派單”提供數(shù)據(jù)
支撐加工采集P64鄉(xiāng)村振興:20字總要求、7個(gè)路徑指引、5大振興總體要求P65生態(tài)宜居
是關(guān)鍵鄉(xiāng)風(fēng)文明
是保障治理有效
是基礎(chǔ)生活富裕
是根本產(chǎn)業(yè)興旺
是重點(diǎn)農(nóng)鄉(xiāng)村振興戰(zhàn)略規(guī)劃按照實(shí)施數(shù)字中國(guó)戰(zhàn)略、鄉(xiāng)村振興戰(zhàn)略、數(shù)字鄉(xiāng)村戰(zhàn)略的總體部署,以產(chǎn)業(yè)數(shù)字化、數(shù)字產(chǎn)業(yè)化為發(fā)展主線,以數(shù)字技術(shù)與農(nóng)業(yè)農(nóng)村經(jīng)濟(jì)深度融合為主攻方向,以數(shù)據(jù)為關(guān)鍵生產(chǎn)要素,著力建設(shè)基礎(chǔ)數(shù)據(jù)資源體系,加快農(nóng)業(yè)農(nóng)村生產(chǎn)經(jīng)營(yíng)、管理服務(wù)數(shù)字化改造,推動(dòng)政府信息系統(tǒng)和公共數(shù)據(jù)互聯(lián)開(kāi)放共享,全面提升農(nóng)業(yè)農(nóng)村生產(chǎn)智能化、經(jīng)營(yíng)網(wǎng)絡(luò)化、管理高效化、服務(wù)便捷化水平。指導(dǎo)思想發(fā)展目標(biāo)主要任務(wù)保障措施2019年12月25日農(nóng)業(yè)農(nóng)村部 關(guān)于印發(fā)《數(shù)字農(nóng)業(yè)農(nóng)村發(fā)展規(guī)劃(2019—2025年)》 農(nóng)規(guī)發(fā)[2019]33號(hào)到2025年,數(shù)字農(nóng)業(yè)農(nóng)村建設(shè)取得重要進(jìn)展,有力支撐數(shù)字鄉(xiāng)村戰(zhàn)略實(shí)施。農(nóng)業(yè)農(nóng)村數(shù)據(jù)采集體系建立健全,天空地一體化觀測(cè)網(wǎng)絡(luò)、農(nóng)業(yè)農(nóng)村基礎(chǔ)數(shù)據(jù)資源體系、農(nóng)業(yè)農(nóng)村云平臺(tái)基本建成。加強(qiáng)組織領(lǐng)導(dǎo)加大政策支持強(qiáng)化數(shù)據(jù)采集管理強(qiáng)化科技人才支撐構(gòu)建基礎(chǔ)數(shù)據(jù)資源體系
生產(chǎn)經(jīng)營(yíng)數(shù)字化
管理服務(wù)數(shù)字化農(nóng)業(yè)自然資源大數(shù)據(jù)農(nóng)業(yè)種質(zhì)資源大數(shù)據(jù)農(nóng)村集體資產(chǎn)大數(shù)據(jù)農(nóng)村宅基地大數(shù)據(jù)新型農(nóng)業(yè)經(jīng)營(yíng)主體大數(shù)據(jù)種植業(yè)信息化畜牧業(yè)智能化漁業(yè)智慧化種業(yè)數(shù)字化新業(yè)態(tài)多元化質(zhì)量安全管控全程化農(nóng)業(yè)農(nóng)村管理決策農(nóng)產(chǎn)品全產(chǎn)業(yè)鏈數(shù)字農(nóng)業(yè)農(nóng)村服務(wù)農(nóng)村人居環(huán)境鄉(xiāng)村數(shù)字治理國(guó)家農(nóng)業(yè)農(nóng)村 關(guān)鍵共性技術(shù)攻關(guān)大數(shù)據(jù)中心農(nóng)業(yè)農(nóng)村天空地一體化國(guó)家數(shù)字農(nóng)業(yè)農(nóng)村創(chuàng)新工程前沿性技術(shù)超前布局技術(shù)集成應(yīng)用與示范重大工程建設(shè) 技術(shù)裝備創(chuàng)新人工智能研發(fā)應(yīng)用P66數(shù)字農(nóng)業(yè)農(nóng)村發(fā)展規(guī)劃P67資金
如何
落實(shí)責(zé)任
如何
落實(shí)如何
服務(wù)
鄉(xiāng)村數(shù)據(jù)
怎么
采集數(shù)據(jù)
誰(shuí)來(lái)
采集質(zhì)量
怎么
保證如何
滿足
管理數(shù)據(jù)
如何
運(yùn)營(yíng)設(shè)備
如何
維護(hù)數(shù)據(jù)和信息資
源保障層面P68數(shù)字鄉(xiāng)村運(yùn)營(yíng)層面戰(zhàn)略實(shí)施層面鄉(xiāng)村服務(wù)層面政府管理層面行業(yè)痛點(diǎn)-政府實(shí)施行業(yè)痛點(diǎn)-基層工作多頭管理填報(bào)數(shù)據(jù)今天縣委要的這個(gè)報(bào)表和昨天財(cái)政要的報(bào)表差不多,怎么又要填一遍!P69張三家的廁改進(jìn)度咋填呀,我不掌握呀李家屯156戶村民的基礎(chǔ)信息我得手填一遍,然后再做成電子報(bào)表,好麻煩呀!上級(jí)叫采集公共廁所的位置,但是這經(jīng)緯度是個(gè)什么?手機(jī)定位不是能自己找嗎?張老四報(bào)的合作社信息,怎么和工商的對(duì)不上?又到基層黨組織換屆了,又要通宵統(tǒng)計(jì)組織情況了。。能不能在家就注冊(cè)合作社,老去縣里好麻煩快遞都不到村,能不能解決能不能幫我種好地村干部怎么又來(lái)搜集信息了,上周不是才過(guò)來(lái)嗎?能不能幫我把菜賣上價(jià)錢干部說(shuō)每人收10元建監(jiān)控,這個(gè)東西我能用嗎如何便民提升收入P70行業(yè)痛點(diǎn)-村民應(yīng)用解決對(duì)策多渠道采集+系統(tǒng)整合+監(jiān)管+云資源多渠道采集通過(guò)構(gòu)建基于大數(shù)據(jù)技術(shù)和移動(dòng)互聯(lián)網(wǎng)技術(shù)的多渠道政府工作數(shù)據(jù)采集通道和微信小程序群眾信息反饋通道系統(tǒng)整合依托三農(nóng)大數(shù)據(jù)平臺(tái)建設(shè),全面整合涉農(nóng)信息系統(tǒng),拓寬數(shù)據(jù)獲取渠道監(jiān)管建設(shè)基于數(shù)據(jù)信息的項(xiàng)目管理監(jiān)督手段,為三農(nóng)大數(shù)據(jù)平臺(tái)運(yùn)營(yíng)實(shí)施提供有效保障,助力數(shù)字鄉(xiāng)村和鄉(xiāng)村振興戰(zhàn)略云資源基于云端資源,構(gòu)建到村信息服務(wù)體系,實(shí)現(xiàn)數(shù)據(jù)采集、鄉(xiāng)村物流、項(xiàng)目跟蹤、信息服務(wù)等一條龍服務(wù)P71痛點(diǎn)剖析工作量大+數(shù)據(jù)雜亂+機(jī)制難長(zhǎng)效+體系不全數(shù)據(jù)采集監(jiān)控手段傳統(tǒng)基層工作人員實(shí)地走訪、拍照、信息上報(bào)手段落后,紙質(zhì)材料眾多,數(shù)據(jù)核對(duì)和電子化工作量大數(shù)據(jù)運(yùn)營(yíng)工作缺乏基礎(chǔ)目前,沒(méi)有建立到村的數(shù)據(jù)采集運(yùn)營(yíng)團(tuán)隊(duì)或者體系,難以對(duì)整體實(shí)施工作進(jìn)行有效的保障數(shù)據(jù)資源涉及面廣核對(duì)整理難度大三農(nóng)數(shù)據(jù)資源涉及面廣,數(shù)據(jù)資源整理核對(duì)工作量大長(zhǎng)效機(jī)制缺乏長(zhǎng)效監(jiān)管機(jī)制,工作績(jī)效和項(xiàng)目監(jiān)管缺少手段解決之道手機(jī)移動(dòng)辦公大數(shù)據(jù)分析決策鄉(xiāng)村振興工作管理P72?
建
設(shè)
一
系
列
的
手
機(jī)
APP,方便農(nóng)業(yè)部門
領(lǐng)導(dǎo)以及各處室工作
人員通過(guò)手機(jī)APP隨
時(shí)隨地的進(jìn)行各項(xiàng)工
作,達(dá)到了真正的移
動(dòng)辦公的效果。?
構(gòu)建諸如村畫像、戶
畫像等各類大數(shù)據(jù)分
析模型,為各級(jí)政府
和農(nóng)業(yè)部門領(lǐng)導(dǎo)提供
決策分析數(shù)據(jù)支撐,
全面助力鄉(xiāng)村振興戰(zhàn)
略工作。? 掌握鄉(xiāng)村振興任務(wù)的
進(jìn)度情況;? 實(shí)現(xiàn)農(nóng)業(yè)農(nóng)村廳/農(nóng)業(yè)
農(nóng)村委員會(huì)工作中鄉(xiāng)
村振興工作動(dòng)態(tài)跟蹤、
動(dòng)態(tài)監(jiān)控,精準(zhǔn)管理。業(yè)務(wù)需求解決方案公共服務(wù)市場(chǎng)信息、農(nóng)
溫馨提示
- 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 2025中國(guó)市政工程中南設(shè)計(jì)研究總院限公司招聘高頻重點(diǎn)提升(共500題)附帶答案詳解
- 2025中國(guó)農(nóng)科院質(zhì)標(biāo)所公開(kāi)招聘5人高頻重點(diǎn)提升(共500題)附帶答案詳解
- 2025中國(guó)東方電氣集團(tuán)限公司面向全社會(huì)招聘部分二級(jí)企業(yè)總法律顧問(wèn)4人高頻重點(diǎn)提升(共500題)附帶答案詳解
- 2025下半年福建寧德市市直及部分縣(區(qū))事業(yè)單位招聘340人筆試高頻重點(diǎn)提升(共500題)附帶答案詳解
- 2025下半年江蘇省鹽城射陽(yáng)縣部分事業(yè)單位招聘34人歷年高頻重點(diǎn)提升(共500題)附帶答案詳解
- 2025下半年安徽馬鞍山市直事業(yè)單位招聘工作人員人選及高頻重點(diǎn)提升(共500題)附帶答案詳解
- 2025下半年四川達(dá)州市招聘衛(wèi)生類事業(yè)單位工作人員630人高頻重點(diǎn)提升(共500題)附帶答案詳解
- 2024年電影貼片廣告合同3篇
- 2025上半年貴州黔東南州水利投資(集團(tuán))限責(zé)任公司招聘8人高頻重點(diǎn)提升(共500題)附帶答案詳解
- 2025上半年江西九江市事業(yè)單位招考和考試選調(diào)擬正式聘用人員(三)高頻重點(diǎn)提升(共500題)附帶答案詳解
- 迎新年卡拉OK比賽主持詞
- 玻璃廠質(zhì)檢工作總結(jié)
- v型開(kāi)槽機(jī)安全操作規(guī)程
- 2023叉車使用安全管理規(guī)范
- 3-6歲兒童學(xué)習(xí)與發(fā)展指南語(yǔ)言領(lǐng)域解讀
- 醫(yī)用注射器原理與使用方法
- 2023-2024學(xué)年浙教版科學(xué)九年級(jí)上冊(cè)期末測(cè)試+
- 110KV高壓線路檢修方案
- 國(guó)開(kāi)02181-混凝土結(jié)構(gòu)設(shè)計(jì)原理機(jī)考復(fù)習(xí)資料
- 藥用植物硒多糖的
- 課程設(shè)計(jì)列車變頻空挪用直流電源系統(tǒng)的設(shè)計(jì)
評(píng)論
0/150
提交評(píng)論