Zzreal的大數據筆記-StormDay02
Storm集群搭建
(1)下載Storm---apache-storm-1.1.1.tar.gz。
(2)解壓文件修改storm.yaml添加集群配置信息:
下面指定supervisor工作節點,需要配置該節點可以運行的worker數量,每個worker佔用一個埠用於接收消息,最多分配5個;默認情況下每個節點可以運行4個worker,分別在6700、6701、6702、6703埠,這裡定義3個埠,代表最多運行3個worker:
下面設置集群主機,讓集群中所有的節點可以從主機下載拓撲以及配置文件,主機上運行的就是nimbus,而其他節點就是supervisor進程,這裡PC02為nimbus,而PC[03-07]為supervisor,所以配置如下:
下面配置storm集群的drpc地址,這裡就是PC02,實際中可以自己定義:
最後配置storm進程的分配內存,默認情況下Storm啟動worker進程時,JVM的最大內存是768M,由於在使用過程中,Bolt中載入大量數據,768M內存無法滿足要求,會導致內存溢出,應該根據實際情況進行修改,這裡設置為2G。
(3)然後在3台主機分別創建上面設置的數據目錄,必須都要創建:mkdir -p /usr/data/storm上面的配置是在主節點上配置的,接下來要把storm目錄發送到從節點。
(4)使用storm腳本啟動相應服務並查看服務狀態
主節點bin/storm nimbus &
從節點bin/storm supervisor &
(5)通過web查看storm集群的狀態
主節點bin/storm ui &默認埠8080
以上內容均為作者個人筆記,如有錯誤歡迎指正...
關注CSDN博客 Zonzereal,更多大數據筆記等你...


TAG:全球大搜羅 |