Spark大數(shù)據(jù)技術(shù)原理與實(shí)踐

1、Spark大數(shù)據(jù)技術(shù)原理與實(shí)踐技術(shù)創(chuàng)新，變革未來2提綱Spark 簡介Spark 功能與架構(gòu)Spark 生態(tài)圈介紹1234Spark 編程3是什么Spark系統(tǒng)是分布式批處理系統(tǒng)和分析挖掘引擎；AMP LAB貢獻(xiàn)到Apache社區(qū)的開源項(xiàng)目，是AMP大數(shù) 據(jù)棧的基礎(chǔ)組件；做什么數(shù)據(jù)處理（ Data Processing）： 可以用來快速處理數(shù) 據(jù)，兼具容錯(cuò)性和可擴(kuò)展性。迭代計(jì)算（ Iterative Computation）：支持迭代計(jì)算， 有效應(yīng)對多步的數(shù)據(jù)處理邏輯。數(shù)據(jù)挖掘（ Data Mining）：在海量數(shù)據(jù)基礎(chǔ)上進(jìn)行復(fù) 雜的挖掘分析，可支持各種數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)算法。Spark 簡介

2、4輕： Spark核心代碼有3萬行。Scala語言的簡潔和豐富表達(dá)力巧妙利用了Hadoop和Mesos的基礎(chǔ)設(shè)施快： Spark對小數(shù)據(jù)集可達(dá)到亞秒級的延遲，對大數(shù)據(jù)集的迭代機(jī)器 學(xué)習(xí)、即席查詢、圖計(jì)算等應(yīng)用，Spark版本比基于MR、 Hive和Pregel的實(shí)現(xiàn)快。內(nèi)存計(jì)算、數(shù)據(jù)本地性和傳輸優(yōu)化、調(diào)度優(yōu)化靈： Spark提供了不同層面的靈活性。Scala trait動(dòng)態(tài)混入策略（如可更換的集群調(diào)度器、序列化庫）；允許擴(kuò)展新的數(shù)據(jù)算子、新的數(shù)據(jù)源、新的language bindings（ Java和 Python）；Spark支持內(nèi)存計(jì)算、多迭代批量處理、即席查詢、流處理和圖計(jì)算等多 種范式

3、。巧：巧妙借力現(xiàn)有大數(shù)據(jù)組件。Spark借Hadoop之勢，與Hadoop無縫結(jié)合；Shark借了Hive的勢；Spark 特點(diǎn)5提綱Spark 簡介Spark 功能與架構(gòu)Spark 生態(tài)圈介紹1234Spark 編程6Spark數(shù)據(jù)共享機(jī)制iter. 1. . .InputreadHDFSwritereaditer. 2writequery 1query 2query 3result 1result 2result 3. . .HDFSread太慢，冗余讀寫、序列化、磁盤IOHDFSHDFSData Sharing in MapReduceHDFSiter. 1iter. 2. . .Inp

4、utDistributed memoryInputquery 1query 2query 3. . .one-time processing10-100 x快于網(wǎng)絡(luò)和磁盤InputData Sharing in Spark7彈性分布式數(shù)據(jù)集（Resilient Distributed Datasets）A distributed memory abstraction that lets programmers performin-memory computations on large clusters只讀的，可分區(qū)的分布式數(shù)據(jù)集只能直接通過操作符來創(chuàng)建和處理支持容錯(cuò)處理RDD 操作：Tran

5、sformation & ActionSpark 核心概念- RDDs8Spark 容錯(cuò)機(jī)制iter. 1iter. 2. . .InputDistributed memoryInputquery 1query 2query 3. . .one-time processing快的同時(shí)，也要保證系統(tǒng)魯棒性血統(tǒng)關(guān)系(Lineage)：記錄RDD是如何從其它RDD中演變過來的一系列操作當(dāng)這個(gè)RDD的部分分區(qū)數(shù)據(jù)丟失時(shí)，它可以通過Lineage獲取足夠的信息來 重新運(yùn)算和恢復(fù)丟失的數(shù)據(jù)分區(qū)采用粗顆粒的數(shù)據(jù)模型，性能的提升9Spark 任務(wù)調(diào)度RDD ObjectsDAGSchedulerTaskSch

6、edulerWorkerrdd1.join(rdd2).groupBy().filter()build operator DAGsplit graph intostages of taskssubmit each stage as readylaunch tasks via cluster managerretry failed or straggling tasksexecute tasksstore and serve blocksDAGTaskSetCluster managerThreadsBlock managerTask10提綱Spark 簡介Spark 功能與架構(gòu)Spark 生態(tài)

7、圈介紹1234Spark 編程11Spark 生態(tài)圈MesosSpark StreamingSparkSQL (Shark)統(tǒng)一集群資源管理系統(tǒng), 支持多種計(jì)算框架共享集群,eg Hadoop, MPI通過共享集群資源和數(shù)據(jù)，提高資源利用率和數(shù)據(jù)共享率目前最大部署集群為3500+節(jié)點(diǎn)支持大規(guī)模流式計(jì)算，吞吐量高于Storm基于Spark單一框架，完善Spark批處理、交互式處理和流式處理模式將流式計(jì)算分解成一系列小而確定的批處理作業(yè)Hive on Spark, 提供SQL訪問Spark內(nèi)的RDDs比Hive性能高40-100倍SparkSQL拋棄Hive,直接SQL on SparkShark

8、項(xiàng)目已經(jīng)停止，目前是單獨(dú)的SparkSQL12Spark 生態(tài)圈之GraphXBlinkDB大規(guī)模的模糊查詢引擎允許用戶在準(zhǔn)確率和響應(yīng)時(shí)間作出權(quán)衡主要是facebook在使用和維護(hù)快速的圖計(jì)算框架，性能優(yōu)于Giraph和GraphLab提供GraphLib和APIGraphXMLBase(MLlib)基于Spark的機(jī)器學(xué)習(xí)算法包支持可擴(kuò)展的機(jī)器學(xué)習(xí)算法13提綱Spark 簡介Spark 功能與架構(gòu)Spark 生態(tài)圈介紹1234Spark 編程14Spark提供 Java，Python, Scala三種語言的編程接口，官網(wǎng)上有詳細(xì)的Api 文檔Spark提出的最主要抽象概念是彈性分布式數(shù)據(jù)集 (resilient distributed dataset,RDD)，它是一個(gè)元素集合，劃分到集群的各個(gè)節(jié)點(diǎn)上，可以被并行 操作。每個(gè)RDD都封裝了不同的操作，開發(fā)者通過合理組合，應(yīng)用這些RDD函數(shù)來實(shí)現(xiàn)需求功能。Spark提供的API主要分為兩類：轉(zhuǎn)換（transformation ）：用來創(chuàng)建新的RD