共享自行車(chē)項(xiàng)目解決方案說(shuō)明書(shū)

共享自行車(chē)項(xiàng)目解決方案說(shuō)明書(shū)XX科技股份有限公司編制目錄TOC\o"1-2"\h\u一、項(xiàng)目存在問(wèn)題及需解決問(wèn)題 31. 存在問(wèn)題 32. 需解決問(wèn)題 3二、解決方案 51.解決方案架構(gòu) 52.關(guān)鍵技術(shù) 6三、開(kāi)發(fā)范圍 91. 數(shù)據(jù)生產(chǎn) 92. 數(shù)據(jù)采集/消費(fèi) 93. 數(shù)據(jù)分析 104. 數(shù)據(jù)展示 11

項(xiàng)目存在問(wèn)題及需解決問(wèn)題存在問(wèn)題中國(guó)是“自行車(chē)大國(guó)”。隨著經(jīng)濟(jì)的發(fā)展，人民生活水平的提高，機(jī)動(dòng)車(chē)保有量逐步增加，但中短途仍有不少居民使用自行車(chē)出行。為了增加居民出行的便利性，各個(gè)城市推廣了“公共自行車(chē)”服務(wù)，滿(mǎn)足居民的中短途出行需求。但在實(shí)際運(yùn)作中，多數(shù)城市的公共自行車(chē)服務(wù)的運(yùn)營(yíng)處于困境中，站點(diǎn)位置規(guī)劃急需優(yōu)化、各個(gè)站點(diǎn)協(xié)同作用不高、缺乏針對(duì)性的應(yīng)急管理措施等問(wèn)題凸顯。但對(duì)于政府管理部門(mén)而言，不僅對(duì)這些問(wèn)題缺乏足夠的量化評(píng)估，而且從整體性、根本性解決效率提升問(wèn)題的角度上，也缺乏利用數(shù)據(jù)精準(zhǔn)評(píng)估、通過(guò)預(yù)測(cè)進(jìn)行規(guī)劃、整體性綜合考慮提升運(yùn)營(yíng)效率的路徑。需解決問(wèn)題對(duì)各個(gè)站點(diǎn)缺乏有效的評(píng)估，評(píng)估指標(biāo)趨向于綜合化而精細(xì)度缺乏。效率提升的關(guān)鍵首先是需要我準(zhǔn)限制效率最大化的關(guān)鍵要素，找準(zhǔn)問(wèn)題的“病根"，才能探索改進(jìn)優(yōu)化的路徑。從實(shí)際操作來(lái)看，很多城市的公共自行車(chē)服務(wù)沒(méi)有完整的數(shù)據(jù)留存、整理、分析機(jī)制，即便有的城市有意識(shí)地留存了數(shù)據(jù)，但數(shù)據(jù)更多以“用戶(hù)”而非特定站點(diǎn)為核心的進(jìn)行管理組織。這也從側(cè)面反映出在數(shù)據(jù)應(yīng)用端，更強(qiáng)調(diào)針對(duì)居民個(gè)體應(yīng)用情況的考量、對(duì)居民應(yīng)用率的評(píng)估以及從推廣居民使用視角的數(shù)據(jù)應(yīng)用策略。但相關(guān)服務(wù)對(duì)各個(gè)公共自行車(chē)站點(diǎn)的評(píng)估尚且不足，缺乏從站點(diǎn)視角對(duì)服務(wù)效率進(jìn)行評(píng)估;也缺乏利用數(shù)據(jù)進(jìn)行合理預(yù)測(cè)，進(jìn)而做好規(guī)劃、提升整體效率的意識(shí)。同時(shí)，我們也看到即便有些城市以“站點(diǎn)”為核心開(kāi)展了相關(guān)效率的評(píng)估，但往往是通過(guò)使用率增長(zhǎng)、使用效率這樣常規(guī)籠統(tǒng)的綜合性指標(biāo)，而缺乏更為精細(xì)的數(shù)據(jù)分析，不利于找到核心關(guān)鍵要素進(jìn)而改善提升整體效率。缺乏整體性綜合考慮來(lái)提升效率以往的效率分析，因?yàn)閿?shù)據(jù)留存問(wèn)題，更多的是零散地、孤立地來(lái)評(píng)估各個(gè)站點(diǎn)的效率，進(jìn)而制定各個(gè)站點(diǎn)的優(yōu)化策略。但實(shí)際上，作為一個(gè)“系統(tǒng)”，每個(gè)站點(diǎn)并不是孤立的，它和各個(gè)周邊其他站點(diǎn)相互關(guān)聯(lián)、相互影響。在傳統(tǒng)的效率評(píng)估一優(yōu)化改進(jìn)模型中，不僅沒(méi)有也很難通過(guò)數(shù)據(jù)考慮這樣的相互關(guān)系，進(jìn)而改進(jìn)效率的方向也是孤立的、片段的，不能從系統(tǒng)上給出最優(yōu)的解決策略。解決方案解決方案架構(gòu)系統(tǒng)開(kāi)發(fā)平臺(tái)使用Hadoop大數(shù)據(jù)開(kāi)發(fā)平臺(tái)。Hadoop是一個(gè)高度可擴(kuò)展的存儲(chǔ)平臺(tái)，可以存儲(chǔ)和分發(fā)橫跨數(shù)百個(gè)并行操作的廉價(jià)的服務(wù)器數(shù)據(jù)集群。能擴(kuò)展到處理大量的數(shù)據(jù)，能提供成百上千TB的數(shù)據(jù)節(jié)點(diǎn)上運(yùn)行的應(yīng)用程序。Hadoop能夠有效的在幾分鐘內(nèi)處理TB級(jí)的數(shù)據(jù)。相比關(guān)系型數(shù)據(jù)庫(kù)管理系統(tǒng)更具有優(yōu)勢(shì)。它適用于任何規(guī)模的非結(jié)構(gòu)化數(shù)據(jù)持續(xù)增長(zhǎng)的企業(yè)，將幫助用戶(hù)持續(xù)提高用戶(hù)體驗(yàn)。系統(tǒng)采用面向?qū)ο蟮能浖O(shè)計(jì)方法，把整個(gè)系統(tǒng)看作是多個(gè)離散對(duì)象的組合。系統(tǒng)設(shè)計(jì)時(shí)，首先把業(yè)務(wù)流程分解成功能模塊及其業(yè)務(wù)實(shí)體對(duì)象，然后根據(jù)業(yè)務(wù)流程分析對(duì)于這些業(yè)務(wù)實(shí)體對(duì)象的操作方法，形成業(yè)務(wù)處理對(duì)象，最后把各個(gè)功能模塊關(guān)聯(lián)起來(lái)，形成系統(tǒng)。軟件設(shè)計(jì)是一個(gè)將需求轉(zhuǎn)變?yōu)檐浖倪^(guò)程，系統(tǒng)通過(guò)逐步求精使得設(shè)計(jì)陳述逐漸接近于源代碼。系統(tǒng)程序采用MVC的設(shè)計(jì)思想，將展現(xiàn)邏輯、控制邏輯、業(yè)務(wù)處理邏輯分離。系統(tǒng)采用參數(shù)化的設(shè)計(jì)思想，定義和管理系統(tǒng)的實(shí)體及配置，調(diào)整實(shí)體以適應(yīng)外部變化。系統(tǒng)采用J2EE技術(shù)保證程序邏輯實(shí)現(xiàn)的平臺(tái)無(wú)關(guān)性，并便于安裝部署。系統(tǒng)采用AJAX技術(shù)，提高客戶(hù)操作的交互性，保證實(shí)際使用的易用性。系統(tǒng)采用echarts可視化框架實(shí)現(xiàn)數(shù)據(jù)展示。關(guān)鍵技術(shù)HadoopHadoop是一個(gè)由Apache基金會(huì)所開(kāi)發(fā)的分布式系統(tǒng)基礎(chǔ)架構(gòu)。用戶(hù)可以在不了解分布式底層細(xì)節(jié)的情況下，開(kāi)發(fā)分布式程序。充分利用集群的威力進(jìn)行高速運(yùn)算和存儲(chǔ)。SpringMVCSpringMVC：屬于SpringFrameWork的后續(xù)產(chǎn)品，已經(jīng)融合在SpringWebFlow里面。Spring框架提供了構(gòu)建Web應(yīng)用程序的全功能MVC模塊。MyBatisMYBatis：是支持普通SQL查詢(xún)，存儲(chǔ)過(guò)程和高級(jí)映射的優(yōu)秀持久層框架。MyBatis消除了幾乎所有的JDBC代碼和參數(shù)的手工設(shè)置以及結(jié)果集的檢索。MyBatis使用簡(jiǎn)單的XML或注解用于配置和原始映射，將接口和Java的POJOs（PlainOldJavaObjects，普通的Java對(duì)象）映射成數(shù)據(jù)庫(kù)中的記錄。EchartsECharts是一款基于Javascript的數(shù)據(jù)可視化圖表庫(kù)，提供直觀，生動(dòng)，可交互，可個(gè)性化定制的數(shù)據(jù)可視化圖表。MySQLMySQL是一個(gè)關(guān)系型數(shù)據(jù)庫(kù)管理系統(tǒng)，由瑞典MySQLAB公司開(kāi)發(fā)，屬于Oracle旗下產(chǎn)品。MySQL是最流行的關(guān)系型數(shù)據(jù)庫(kù)管理系統(tǒng)之一，在WEB應(yīng)用方面，MySQL是最好的RDBMS(RelationalDatabaseManagementSystem，關(guān)系數(shù)據(jù)庫(kù)管理系統(tǒng))應(yīng)用軟件之一。MySQL是一種關(guān)系型數(shù)據(jù)庫(kù)管理系統(tǒng)，關(guān)系數(shù)據(jù)庫(kù)將數(shù)據(jù)保存在不同的表中，而不是將所有數(shù)據(jù)放在一個(gè)大倉(cāng)庫(kù)內(nèi)，這樣就增加了速度并提高了靈活性。MySQL所使用的SQL語(yǔ)言是用于訪(fǎng)問(wèn)數(shù)據(jù)庫(kù)的最常用標(biāo)準(zhǔn)化語(yǔ)言。MySQL軟件采用了雙授權(quán)政策，分為社區(qū)版和商業(yè)版，由于其體積小、速度快、總體擁有成本低，尤其是開(kāi)放源碼這一特點(diǎn)，一般中小型網(wǎng)站的開(kāi)發(fā)都選擇MySQL作為網(wǎng)站數(shù)據(jù)庫(kù)。Hivehive是基于Hadoop構(gòu)建的一套數(shù)據(jù)倉(cāng)庫(kù)分析系統(tǒng)，它提供了豐富的SQL查詢(xún)方式來(lái)分析存儲(chǔ)在Hadoop分布式文件系統(tǒng)中的數(shù)據(jù)：可以將結(jié)構(gòu)化的數(shù)據(jù)文件映射為一張數(shù)據(jù)庫(kù)表，并提供完整的SQL查詢(xún)功能；可以將SQL語(yǔ)句轉(zhuǎn)換為MapReduce任務(wù)運(yùn)行，通過(guò)自己的SQL查詢(xún)分析需要的內(nèi)容，這套SQL簡(jiǎn)稱(chēng)HiveSQL，使不熟悉mapreduce的用戶(hù)可以很方便地利用SQL語(yǔ)言查詢(xún)、匯總和分析數(shù)據(jù)。而mapreduce開(kāi)發(fā)人員可以把自己寫(xiě)的mapper和reducer作為插件來(lái)支持hive做更復(fù)雜的數(shù)據(jù)分析。它與關(guān)系型數(shù)據(jù)庫(kù)的SQL略有不同，但支持了絕大多數(shù)的語(yǔ)句如DDL、DML以及常見(jiàn)的聚合函數(shù)、連接查詢(xún)、條件查詢(xún)。它還提供了一系列的：具進(jìn)行數(shù)據(jù)提取轉(zhuǎn)化加載，用來(lái)存儲(chǔ)、查詢(xún)和分析存儲(chǔ)在Hadoop中的大規(guī)模數(shù)據(jù)集，并支持UDF（User-DefinedFunction）、UDAF(User-DefnesAggregateFunction)和UDTF（User-DefinedTable-GeneratingFunction），也可以實(shí)現(xiàn)對(duì)map和reduce函數(shù)的定制，為數(shù)據(jù)操作提供了良好的伸縮性和可擴(kuò)展性。HBASEHBase–HadoopDatabase，是一個(gè)高可靠性、高性能、面向列、可伸縮的分布式存儲(chǔ)系統(tǒng)，利用HBase技術(shù)可在廉價(jià)PCServer上搭建起大規(guī)模結(jié)構(gòu)化存儲(chǔ)集群。ZookeeperZooKeeper是一個(gè)分布式的，開(kāi)放源碼的分布式應(yīng)用程序協(xié)調(diào)服務(wù)，是Google的Chubby一個(gè)開(kāi)源的實(shí)現(xiàn)，是Hadoop和Hbase的重要組件。它是一個(gè)為分布式應(yīng)用提供一致性服務(wù)的軟件，提供的功能包括：配置維護(hù)、域名服務(wù)、分布式同步、組服務(wù)等。FlumeFlume是Cloudera提供的一個(gè)高可用的，高可靠的，分布式的海量日志采集、聚合和傳輸?shù)南到y(tǒng)，F(xiàn)lume支持在日志系統(tǒng)中定制各類(lèi)數(shù)據(jù)發(fā)送方，用于收集數(shù)據(jù)；同時(shí)，F(xiàn)lume提供對(duì)數(shù)據(jù)進(jìn)行簡(jiǎn)單處理，并寫(xiě)到各種數(shù)據(jù)接受方（可定制）的能力。開(kāi)發(fā)范圍數(shù)據(jù)生產(chǎn)對(duì)于該模塊的業(yè)務(wù)，即數(shù)據(jù)生產(chǎn)過(guò)程，一般并不會(huì)讓你來(lái)進(jìn)行操作，數(shù)據(jù)生產(chǎn)是一套完整且嚴(yán)密的體系，這樣可以保證數(shù)據(jù)的安全性。但是如果涉及到項(xiàng)目的一體化方案的設(shè)計(jì)（數(shù)據(jù)的產(chǎn)生、存儲(chǔ)、分析、展示），則必須清楚每一個(gè)環(huán)節(jié)是如何處理的，包括其中每個(gè)環(huán)境可能隱藏的問(wèn)題；數(shù)據(jù)結(jié)構(gòu)，數(shù)據(jù)內(nèi)容可能出現(xiàn)的問(wèn)題。數(shù)據(jù)采集/消費(fèi)數(shù)據(jù)采集模塊（消費(fèi)），在企業(yè)中你要清楚流式數(shù)據(jù)采集框架flume和kafka的定位是什么。我們?cè)诖诵枰獙?shí)時(shí)數(shù)據(jù)通過(guò)flume采集到kafka然后供給給hbase消費(fèi)。flume：cloudera公司研發(fā)適合下游數(shù)據(jù)消費(fèi)者不多的情況；適合數(shù)據(jù)安全性要求不高的操作；適合與Hadoop生態(tài)圈對(duì)接的操作。kafka：linkedin公司研發(fā)適合數(shù)據(jù)下游消費(fèi)眾多的情況；適合數(shù)據(jù)安全性要求較高的操作（支持replication）；因此我們常用的一種模型是：線(xiàn)上數(shù)據(jù)-->flume-->kafka-->flume(根據(jù)情景增刪該流程)-->HDFS線(xiàn)上數(shù)據(jù)-->flume-->kafka-->sp