當前位置:
首頁 > 科技 > Apache Flink改進批次作業恢復功能

Apache Flink改進批次作業恢復功能

開源串流處理框架Apache Flink發布了1.9.0版本,重要新功能包括改進批次恢復,以及加入新的狀態處理器API,而Apache Flink與阿里巴巴貢獻的Blink查詢引擎集成工作,也從這個版本開始,另外,Flink 1.9還使用最新的Angular穩定版,來重新構建WebUI。

以新版Flink來執行任務失敗後的批次工作恢復,用戶將會明顯感受到時間縮短,在之前的版本,批處理作業的恢復功能,會取消所有任務並重新開始所有工作,而在Flink 1.9中,用戶可以配置Flink,限制恢復工作僅限在同一個故障轉移區域(Failover Region)進行。故障轉移區域是指,由工作管線的數據交換所相連接的一系列任務。

Flink 1.9還加入了一個全新的函數庫,可以使用批處理DataSet API讀取、寫入和修改狀態快照(Snapshot),而這代表用戶現在可從外部系統,像是外部資料庫讀取Flink數據,並將其轉換成存儲點,用於引導Flink工作狀態。而存儲點中的狀態,可以使用任何Flink批次API查詢,用戶可以分析狀態模式或是狀態的不一致,以審核或是調試應用程序。

另外,阿里巴巴將內部的Flink項目Blink貢獻給Apache Flink之後,Flink項目現在正進行集成Blink查詢優化程序(Optimizer)以及Runtime的工作,目前社群正將flink- table模塊重構成更小的模塊,而這將明確分離Java、Scala API模塊,以及優化程序、Runtime模塊,讓之間有更明確定義的介面。

Flink 1.9現在同時存在兩個可插拔的查詢處理器,以執行Table API以及SQL敘述,分別為Flink之前版本的處理器以及基於Blink的查詢處理器,雖然Blink查詢處理器提供更好的SQL支持以及功能,但是由於集成尚未完成,Flink 1.9目前的默認仍然使用舊的處理器,官方也建議在正式生產環境,先不要使用Blink的查詢處理器。

經過社群討論之後,Flink WebUI使用Angular最新的穩定版重新構建,從Angular的版本從1.x大跳躍到了7.x,Flink 1.9默認使用新的WebUI,但是用戶想使用舊版本,Flink 1.9中也有提供連接可供切換。

喜歡這篇文章嗎?立刻分享出去讓更多人知道吧!

本站內容充實豐富,博大精深,小編精選每日熱門資訊,隨時更新,點擊「搶先收到最新資訊」瀏覽吧!


請您繼續閱讀更多來自 十輪網 的精彩文章:

2019最受注目5部TED視頻!擺脫窮忙、累積財富、樂在工作
Unix管理工具Webmin爆有遠程程序代碼執行漏洞

TAG:十輪網 |