Google即時分析Cloud Storage中的數據新途徑
Google為即時分析Cloud Storage中的數據,提供了一個新的途徑,用戶除了可以使用Cloud Dataflow進行複雜的數據串流處理之外,現在還可以使用無伺服器服務Cloud Functions,以函數自動地將數據串流到BigQuery,進行快速分析。
GCP用戶原本就能使用Cloud Dataflow服務,將數據串流傳輸至BigQuery進行分析。Cloud Dataflow使用Apache Beam框架,提供分窗(Windowing)和對話(Session)分析原語,以及Java和Python等其他各式開發語言的連接器,讓用戶執行複雜的ETL以及數據串流任務。Google提到,對於不熟悉Apache Beam API的用戶,且不打算進行分窗或是複雜轉換等截取文件數據工作,則Cloud Functions會是更好選擇。
Cloud Functions是一個事件驅動的無伺服器計算平台,具自動擴展、高可用性和高容錯能力,用戶不需要配置、管理或是更新伺服器,適合適於小文件或是簡單數據轉換的串流任務。當數據文件上傳到Cloud Storage中的時候,便能觸發Cloud Functions串流,在以函數解析數據後,把數據串流至BigQuery。
Google表示,相較於能夠用來處理複雜ETL工作以及大型數據集的Cloud Dataflow,Cloud Functions相對來說更為簡單靈活,除了能適時縮放運算能力,適應需要處理的數據量外,用戶還能以Cloud Functions自定義功能,執行像是使用Cloud Firestore資料庫等其他任務。
※USB為何不能「反插」?
※谷歌Stadia串流遊戲服務11月上線,定價、內置遊戲方案
TAG:十輪網 |