大香蕉综合在线观看视频-日本在线观看免费福利-欧美激情一级欧美精品性-综合激情丁香久久狠狠

好房網(wǎng)

網(wǎng)站首頁 科技 > 正文

今日更新flink和spark對比

2022-04-30 10:00:30 科技 來源:
導(dǎo)讀 目前大家應(yīng)該是對flink和spark對比比較感興趣的,所以今天好房網(wǎng)小編CC就來為大家整理了一些關(guān)于flink和spark對比方面的相關(guān)知識(shí)來分享給

目前大家應(yīng)該是對flink和spark對比比較感興趣的,所以今天好房網(wǎng)小編CC就來為大家整理了一些關(guān)于flink和spark對比方面的相關(guān)知識(shí)來分享給大家,希望大家會(huì)喜歡哦。  

  技術(shù)理念不同:Spark的技術(shù)理念是使用微批來模擬流的計(jì)算,基于Micro-batch,數(shù)據(jù)流以時(shí)間為單位被切分為一個(gè)個(gè)批次,通過分布式數(shù)據(jù)集RDD進(jìn)行批量處理,是一種偽實(shí)時(shí)。而Flink是基于事件驅(qū)動(dòng),它是一個(gè)面向流的處理框架, Flink基于每個(gè)事件一行一行地流式處理,是真正的流式計(jì)算。 另外他也可以基于流來模擬批進(jìn)行計(jì)算實(shí)現(xiàn)批處理,在技術(shù)上具有更好的擴(kuò)展性。

  時(shí)間機(jī)制:SparkStreaming只支持處理時(shí)間, 折中地使用processing time來近似地實(shí)現(xiàn)event time相關(guān)的業(yè)務(wù)。使用processing time模擬event time必然會(huì)產(chǎn)生一些誤差, 特別是在產(chǎn)生數(shù)據(jù)堆積的時(shí)候,誤差則更明顯,甚至導(dǎo)致計(jì)算結(jié)果不可用,Structured streaming 支持處理時(shí)間和事件時(shí)間,同時(shí)支持 watermark 機(jī)制處理滯后數(shù)據(jù)Flink 支持三種時(shí)間機(jī)制:事件時(shí)間、注入時(shí)間、處理時(shí)間、同時(shí)支持 watermark 機(jī)制處理遲到的數(shù)據(jù),說明Flink在處理亂序大實(shí)時(shí)數(shù)據(jù)的時(shí)候,優(yōu)勢比較大。


版權(quán)說明: 本文由用戶上傳,如有侵權(quán)請聯(lián)系刪除!


標(biāo)簽: