RocketMQ 源碼學習 1 : 整體結構
(點擊
上方公眾號
,可快速關注)
來源:謝晞鳴 ,
fdx321.github.io/2017/08/16/【RocketMQ源碼學習】1-總體架構/
1.為什麼是RocketMQ
為什麼是 RocketMQ,而不是 ActiveMQ/RabbitMQ/Kafka 呢?這不是技術選型,我只是想找一個業界比較好的、開源的 MQ 系統,學習一下 MQ 的工作原理。所以首選 Java 的(雖然語言對我來說不是問題,然還是有點學習成本的),這就只剩下 RocketMQ 和 ActiveMQ 了,這兩個那就肯定 選RocketMQ 了,畢竟人家是這麼吹牛逼的: 「萬億級數據洪峰下的分散式消息引擎」。
2.項目結構
benchmark, 一些 sh 腳本,調用 example 模塊中的 benchmark Producer/Consumer 來做一些測試
broker, 消息代理,起到串聯 Producer/Consumer 和 Store 的作用
client,包含 Producer 和 Consumer,負責消息的發和收
common,一些公共代碼,供其他模塊依賴
distribution, 一些 sh 腳本和 配置,主要是在部署的時候用的
example,使用樣例,包括各種使用方法,Pull模式、Push模式、廣播模式、有序消息、事務消息等等
filter,過濾器,用於服務端 SQL92 的過濾方式
filtersrv, 過濾器 server, 用於消費端過濾,主要負責動態的載入和實例化過濾器
logappender,日誌相關
namesrv,可以理解成註冊中心,每個 broker 都會在這裡註冊,client 也會從這裡獲取 broker 的相關信息
openmessaging, 講真,還沒去了解,應該是類似於 opentracing 這種,按照一套標準(或者叫API),封裝了一下RocketMQ原來的介面,讓其可以通用一點。我猜的!
remoting,基於 Netty 實現的網路通信模塊,包括 Server 和 Client, client、broker、filtersrv 等模塊對它都有依賴
srvutil, 裡面只有兩個類,一個是來處理命令行的,一個是來配置 shutdownHook 的
store,負責消息的存儲和讀取
style,代碼模板,為了統一代碼風格
test, 測試用例
tools, 一些工具類,基於它們可以寫一些 sh 工具來管理、查看MQ系統的一些信息
3.我的重點關注
這麼多模塊,我並不是每一個都一行行代碼的去讀,像 distribution、test、tools 這些我就大概掃了一眼。那麼哪些是我重點關注的呢?主要是 broker、client、common、namesrv、store、remoting,這幾個是核心模塊,值得認真研讀,其它模塊不要它們也能跑起來。
4.RocketMQ邏輯部署結構
這是 RocketMQ 的邏輯部署結構(參考《RocketMQ原理簡介 v3.1.1》),包括 producer/broker/namesrv/consumer 四大部分。namesrv 起到註冊中心的作用,部署的時候會用到 rocketmq-namesrv/rocketmq-common/rocketmq-remoting 三個模塊的代碼;broker 部署的時候會用到 rocketmq-broker/rocketmq-store/rocketmq-common/rocketmq-remoting 四個模塊的代碼;producer 和 consumer 會用到 rocketmq-client/rocketmq-common/rocketmq-remoting 三個模塊的代碼,這裡雖然將它們分開畫了,但實際上一個應用往往既是producer又是consumer。
Consumer 和 Broker 之間其實還可以加一個 filtersrv,用來做消費端的消息過濾。
這裡面還有幾個概念:
Producer Group, 一類 Producer 的集合的名稱
Consumer Group, 一類 Consumer 的集合的名稱
Topic, 消息的主題,用來標識一類消息,還有 Tag 可以用來區分一個 Topic 下的多種消息。
Producer Group、Consumer Group 和 Topic 之間並沒有強制的某種關係,一個 Producer Group 可以發多個 Topic 的消息,一個 Consumer Group 也可以消費多個 Topic 的消息。一個Consumer Group 可以消費來自多個 Producer Group的消息,一個 Producer Group 的消息也可以被多個 Consumer Group 消費。
Reference
RocketMQ 原理簡介
http://alibaba.github.io/RocketMQ-docs/document/design/RocketMQ_design.pdf
分散式開放消息系統(RocketMQ)的原理與實踐
http://www.jianshu.com/p/453c6e7ff81c
看完本文有收穫?請轉發分享給更多人
關注「ImportNew」,提升Java技能
※跨平台長連接組件設計及可插拔改造
※MySQL 分頁優化中的 「 INNER JOIN方式優化分頁演算法 」 到底在什麼情況下會生效?
TAG:ImportNew |