![尚大數(shù)據(jù)技術(shù)之flink1課件slide_第1頁](http://file4.renrendoc.com/view/99fd8c49def7d9894bb1babcef5c42b2/99fd8c49def7d9894bb1babcef5c42b21.gif)
![尚大數(shù)據(jù)技術(shù)之flink1課件slide_第2頁](http://file4.renrendoc.com/view/99fd8c49def7d9894bb1babcef5c42b2/99fd8c49def7d9894bb1babcef5c42b22.gif)
![尚大數(shù)據(jù)技術(shù)之flink1課件slide_第3頁](http://file4.renrendoc.com/view/99fd8c49def7d9894bb1babcef5c42b2/99fd8c49def7d9894bb1babcef5c42b23.gif)
![尚大數(shù)據(jù)技術(shù)之flink1課件slide_第4頁](http://file4.renrendoc.com/view/99fd8c49def7d9894bb1babcef5c42b2/99fd8c49def7d9894bb1babcef5c42b24.gif)
![尚大數(shù)據(jù)技術(shù)之flink1課件slide_第5頁](http://file4.renrendoc.com/view/99fd8c49def7d9894bb1babcef5c42b2/99fd8c49def7d9894bb1babcef5c42b25.gif)
版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報或認(rèn)領(lǐng)
文檔簡介
Flink+Kafka1圖1: AT-MOST-ONCE(最多一次 保障稱為at-least-once,意思是所有的 一次語義不僅僅意味著沒有丟失,還意味著針對每一個3來保證exactly-once語義Flink4圖2:5 6端到端內(nèi)部保證——checkpoint(分布式異步快照算法 7圖3:89 萬一寫到中間的時候掛掉了呢?WAL只能保障 無論什么sink系統(tǒng),都能用這種方式一批搞定 MySQL,Kakfa當(dāng)它收到checkpoint完成 持的外部Sink系統(tǒng)。Flink提供了Sink在收到checkpoint完成 果這個時候Sink系統(tǒng)關(guān)閉事務(wù)(例如超時了那么未提交anyat-most-once冪等性at-most-once預(yù)寫式日志at-most-once2PCat-most-once (HDFS 圖4:圖5:當(dāng)checkpoint啟動時,JobManager圖6:圖7:任務(wù)首先把數(shù)據(jù)寫入外部圖8:當(dāng)所有算子任務(wù)的快照完成,也就是這次的checkpoint完成 checkpointKafka(transactionJobManager觸發(fā)checkpoint操作,barrier從source開始向下傳遞,遇到barrier的算子將狀態(tài)存入狀態(tài)后端,并通知JobManagerSink連接器收到barrier,保存當(dāng)前狀態(tài),存入checkpoint,通知JobManager收到所有任 c
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 2025年專業(yè)經(jīng)銷住宅合同
- 2025年住宅購買居間合同標(biāo)準(zhǔn)文本
- 2025年船舶涂料項目規(guī)劃申請報告模板
- 2025年加工鹽項目規(guī)劃申請報告模式
- 2025年水利設(shè)施開發(fā)管理服務(wù)項目提案報告模板
- 2025年專業(yè)軟件技術(shù)支持合同示范文本
- 2025年石膏行業(yè)誠信購銷協(xié)議
- 2025年絕緣材料:絕緣套管項目提案報告模稿
- 2025年人才發(fā)展合作框架協(xié)議
- 2025年兒童監(jiān)護(hù)權(quán)放棄協(xié)議范例
- 能源管理體系培訓(xùn)課件(2023年EnMS)
- 深圳市中核海得威生物科技有限公司核技術(shù)利用遷建及退役項目項目環(huán)境影響報告表
- 小學(xué)課堂生成性教學(xué)的問題與反思
- 建筑智能化系統(tǒng)介紹08685課件
- 03三階魔方第三層還原圖解
- 一元二次方程解法復(fù)習(xí)課公開課一等獎?wù)n件省課獲獎?wù)n件
- 信訪事項復(fù)查復(fù)核流程圖
- 超聲科醫(yī)德醫(yī)風(fēng)制度內(nèi)容
- 合唱社團(tuán)第二學(xué)期活動記錄
- QC成果清水混凝土樓梯卡槽式木模板體系創(chuàng)新
評論
0/150
提交評論