當前位置:
首頁 > 知識 > RocketMQ 源碼學習 1 : 整體結構

RocketMQ 源碼學習 1 : 整體結構

(點擊

上方公眾號

,可快速關注)




來源:謝晞鳴 ,


fdx321.github.io/2017/08/16/【RocketMQ源碼學習】1-總體架構/




1.為什麼是RocketMQ



為什麼是 RocketMQ,而不是 ActiveMQ/RabbitMQ/Kafka 呢?這不是技術選型,我只是想找一個業界比較好的、開源的 MQ 系統,學習一下 MQ 的工作原理。所以首選 Java 的(雖然語言對我來說不是問題,然還是有點學習成本的),這就只剩下 RocketMQ 和 ActiveMQ 了,這兩個那就肯定 選RocketMQ 了,畢竟人家是這麼吹牛逼的: 「萬億級數據洪峰下的分散式消息引擎」。




2.項目結構









  • benchmark, 一些 sh 腳本,調用 example 模塊中的 benchmark Producer/Consumer 來做一些測試



  • broker, 消息代理,起到串聯 Producer/Consumer 和 Store 的作用



  • client,包含 Producer 和 Consumer,負責消息的發和收



  • common,一些公共代碼,供其他模塊依賴



  • distribution, 一些 sh 腳本和 配置,主要是在部署的時候用的



  • example,使用樣例,包括各種使用方法,Pull模式、Push模式、廣播模式、有序消息、事務消息等等



  • filter,過濾器,用於服務端 SQL92 的過濾方式



  • filtersrv, 過濾器 server, 用於消費端過濾,主要負責動態的載入和實例化過濾器



  • logappender,日誌相關



  • namesrv,可以理解成註冊中心,每個 broker 都會在這裡註冊,client 也會從這裡獲取 broker 的相關信息



  • openmessaging, 講真,還沒去了解,應該是類似於 opentracing 這種,按照一套標準(或者叫API),封裝了一下RocketMQ原來的介面,讓其可以通用一點。我猜的!



  • remoting,基於 Netty 實現的網路通信模塊,包括 Server 和 Client, client、broker、filtersrv 等模塊對它都有依賴



  • srvutil, 裡面只有兩個類,一個是來處理命令行的,一個是來配置 shutdownHook 的



  • store,負責消息的存儲和讀取



  • style,代碼模板,為了統一代碼風格



  • test, 測試用例



  • tools, 一些工具類,基於它們可以寫一些 sh 工具來管理、查看MQ系統的一些信息




3.我的重點關注



這麼多模塊,我並不是每一個都一行行代碼的去讀,像 distribution、test、tools 這些我就大概掃了一眼。那麼哪些是我重點關注的呢?主要是 broker、client、common、namesrv、store、remoting,這幾個是核心模塊,值得認真研讀,其它模塊不要它們也能跑起來。




4.RocketMQ邏輯部署結構







這是 RocketMQ 的邏輯部署結構(參考《RocketMQ原理簡介 v3.1.1》),包括 producer/broker/namesrv/consumer 四大部分。namesrv 起到註冊中心的作用,部署的時候會用到 rocketmq-namesrv/rocketmq-common/rocketmq-remoting 三個模塊的代碼;broker 部署的時候會用到 rocketmq-broker/rocketmq-store/rocketmq-common/rocketmq-remoting 四個模塊的代碼;producer 和 consumer 會用到 rocketmq-client/rocketmq-common/rocketmq-remoting 三個模塊的代碼,這裡雖然將它們分開畫了,但實際上一個應用往往既是producer又是consumer。



Consumer 和 Broker 之間其實還可以加一個 filtersrv,用來做消費端的消息過濾。




這裡面還有幾個概念:






  • Producer Group, 一類 Producer 的集合的名稱



  • Consumer Group, 一類 Consumer 的集合的名稱



  • Topic, 消息的主題,用來標識一類消息,還有 Tag 可以用來區分一個 Topic 下的多種消息。




Producer Group、Consumer Group 和 Topic 之間並沒有強制的某種關係,一個 Producer Group 可以發多個 Topic 的消息,一個 Consumer Group 也可以消費多個 Topic 的消息。一個Consumer Group 可以消費來自多個 Producer Group的消息,一個 Producer Group 的消息也可以被多個 Consumer Group 消費。



Reference






  • RocketMQ 原理簡介


    http://alibaba.github.io/RocketMQ-docs/document/design/RocketMQ_design.pdf



  • 分散式開放消息系統(RocketMQ)的原理與實踐


    http://www.jianshu.com/p/453c6e7ff81c



看完本文有收穫?請轉發分享給更多人


關注「ImportNew」,提升Java技能


喜歡這篇文章嗎?立刻分享出去讓更多人知道吧!

本站內容充實豐富,博大精深,小編精選每日熱門資訊,隨時更新,點擊「搶先收到最新資訊」瀏覽吧!


請您繼續閱讀更多來自 ImportNew 的精彩文章:

跨平台長連接組件設計及可插拔改造
MySQL 分頁優化中的 「 INNER JOIN方式優化分頁演算法 」 到底在什麼情況下會生效?

TAG:ImportNew |