夯實雲計算底層系統基石,UCloud不斷演進全球基礎架構能力
2019年5月28日, 國內領先的中立雲計算服務商UCloud優刻得(以下簡稱UCloud)在北京召開以「中立安全、賦能產業」為主題的UCloud用戶大會暨Think in Cloud北京大會。
本次大會上,UCloud基礎架構平台線總經理王凱,分享了UCloud對於雲計算基礎架構的深度洞察和設計能力,並介紹了綜合性的企業級雲計算基礎架構解決方案。
基礎架構是雲計算底層系統的基石,是底層實力。
雲計算基礎設施的穩定和可靠,是雲計算公司的底層實力。王凱表示:「如果雲計算產品未來提供的是IT信息化綜合服務,那麼基礎架構就是雲計算底層的系統基石。」
王凱介紹,相對於雲產品,基礎架構有兩個特點,第一是基礎架構模式重,因為它不同於一般的軟體架構,而是需要大規模重資產的基礎物理建設;第二是基礎架構建設節奏慢,因為它處於系統底層,就意味著上層有諸多應用,這些應用不容易被編排和改造,為了避免底層的變化會影響上層應用,基礎架構要相對穩定。
基礎架構這兩個特點,決定其在整個設計、規劃、建造過程中,需要更多更豐富的經驗,還要有更加前瞻的視野。
UCloud在成立以後的七年里對整個基礎設施建設持續重大投入,並形成了自己的建設思路 「給客戶提供最合適的基礎設施」。
王凱回顧了UCloud數據中心建設過程。早期,UCloud客戶主要集中在北京、上海、廣州、香港這些城市,UCloud在這些核心節點建設了數據中心;2016年-2017年,隨著用戶出海業務的迅速發展,為了給出海企業拓展提供幫助,UCloud迅速布局了整個海外節點;隨著自身業務發展和體量持續擴大,以及大型、超大型數據中心技術成熟,網路接入節點仍然在核心區,而存儲和高密計算根據延時需求,逐漸傾向部署在非核心區,可以利用更好的自然環境和土地、電力條件,以獲取更低的運營成本和更高的經濟效益。
此時;差異性、定製化基礎設施成為客戶的訴求。鑒於對客戶需求的這個判斷,2018年UCloud建設了福建GPU可用區,專門為AI和高密計算提供支持;同時還正在開工建設北方的烏蘭察布數據中心,充分利用當地自然條件等優勢,將作為低成本、可定製的基地型數據中心,為北方地區的計算、冷存儲業務提供支持。
基礎設施是點,物理網路是信息通道,大容量、全球化且高可用的業務訴求對物理網路的提出了極高的挑戰。
超大型的數據中心和全球化的趨勢對物理網路提出了更高的要求。基於這樣的挑戰,UCloud首先發布了物理網路的DCN4.0架構。
該架構有三個特點:
第一是彈性高容量,DCN4.0架構採用3級CLOS架構,支持20K到80K個物理節點接入;
第二是高速網路,DCN4.0架構使用25G接入設計和100G的網路核心匯聚設計,支持1:1的收斂比,使用無損乙太網技術,充分保證DC內部充足的帶寬和極低的時延;
第三是採用POD設計,王凱介紹:「數據中心的建設迭代過程很慢,但在軟體的不斷迭代中,我們又希望對軟體不斷升級的網路架構需求提供支持。」UCloud將積累的網路設計能力產品化,抽象出來形成POD,單個POD提供一致的網路能力,將內部分區的架構設計轉化成網路對內的產品能力,兼顧成本、架構設計演進、創新三者平衡。
網路工程師工作一年抵不上民工一鏟子?物理網路要求高可用
「解決了容量問題,我們接下來是關注數據中心高可用」王凱介紹:「網上有個段子,網路工程師工作一年,抵不上民工一鏟子。」這句話指的基礎設施高可用非常難,城域網的光纜經常出現這樣那樣問題。
為了保證數據中心高可用性,避免其受不確定因素影響,UCloud在2018年新推出的網路城域網架構,將原來的2pop升級為3pop,整個單數據中心的可用性從原來的6個9提升到了9個9,全年數據中心理論「不可用」的時長從3分鐘變成了0.09秒。
針對城域網,UCloud發布了DC Group架構。DC Group架構將地理位置相近的DC通過full-mesh的結構聯繫起來,作為同一個AZ對外提供服務。這樣形成了三個優勢,第一是低延時,距離十公里以內的DC延時可以控制在0.2毫秒,相對業務是無感知的。第二是通過冗餘和帶寬,通過100G和400G的高密度波分,對DC Group之間的數據中心提供了6.4T的大帶寬,保證了整個業務的流量。第三是滾動升級持續擴容,當原有數據中心不夠用時,可以通過新建新一代DC的方式,滿足新業務在原AZ里上線的要求,同時將新數據中心的產品架構掛在在原有的DC Group進行升級擴容,兼顧整個數據中心生命周期和容量管理。
針對廣域網,發布四個產品架構,包括三個廣域網架構,一個邊緣網路架構。其中,廣域網三個架構是洲際節點、UTN網路、UBN網路,洲際節點主要負責多地區internet的帶寬接入,目前在23個地區有30 BGP出口,在海外擁有近1T的帶寬;UTN網路是多業務傳輸網,它與UCloud全球基礎設施和起來,甚至可以讓客戶通過UTN和UCloud全球基礎設施打造屬於自己獨立的全球基礎架構;UBN網路是UCloud在UTN之上搭建的數據網,主要是實現流量調度功能,包括Anycast和分散式DDos的功能都是在這張網路上落地。
王凱還重點介紹了UCloud「羅馬」網路產品,羅馬依託於UTN、UBN、UDPN網路、UCloud全球加速節點,甚至其他的運營商資源共同搭建而成,核心價值是為客戶提供就近接入和鏈路動態調度,主要應用場景是實現最後一公里接入、極速的多雲互聯和廉價的廣域網全球加速。
從數據中心的DCN到城域網的3POP、DC Group,再到廣域網的UTN、UBN和洲際節點,最後到邊緣的羅馬產品,UCloud基於對網路架構的理解,為客戶提供了一套完整綜合的解決方案。
虛擬網路,既是難點又是核心技術點
「虛擬網路是雲計算的難點,也是一個核心技術點。」
2012年,UCloud開始使用虛擬網路,採用EBTables和IPTables的組合架構做用戶隔離,但是UCloud的團隊很快發現這個技術方案不足以向客戶提供安全、穩定的服務。2013年,UCloud的虛擬網路開始採用SDN技術實現租戶隔離,也就是VPC(Virtual Private Cloud)。同時將第一代虛擬的SDN交換機引入,將物理機設備引入公有雲體系;2014年和2015年,為了性能優化,引入了DPDK高性能網關;2016年和2017年,升級VPC2.0,將原有的經典網路和VPC1.0網路客戶,在客戶沒有感知的情況下,全部無縫升級到VPC2.0。使用包括IP跨AZ漂移、ULB跨AZ掛載等特性。
創新升級為客戶創造了更好的使用體驗,但UCloud遠遠沒有止步於此。隨著雲計算行業發展,傳統企業的雲業務場景,給虛擬網路的自身的健壯性,高性能和易用性提出了更高的要求,應對這些訴求,2018年UCloud推出包括UXR、智能網關和IPv6三大特性的下一代網路架構VPC3.0,目前還在考慮構建下一代架構VPC4.0。
UXR具備路由和解耦特性,使UCloud虛擬網路可以將公有雲、物理雲、託管雲等各個獨立分區以及對外接入網關全部通過UXR互聯,這樣既實現了各個業務模塊的解耦,又確保每個分區都可以基於自己規模擴展,以此確保整個網路的平行拓展和對外的連接,真正實現網路的分區路由。同時通過使用可編程晶元交換機,ucloud上線了國內首家線上自研虛擬網路匯聚路由器,確保了6.5T 128位元組穩定線速轉發,保證了核心虛擬網路設備的高速性能。
智能網關是在UCloud原有的宿主基礎上使用智能網卡,將原有的虛擬網路封裝和轉發功能移交到智能網卡,通過部分硬體卸載的方式完成,通過這種方式使轉發能力提升整整10倍。這個方案的另外一個優勢可以統一VPC內部架構,將公有雲和未來單機的Bare Metal設備在功能和拓撲上一致,客戶不用區分雲主機和物理機的差異。
IPv6方面,UCloud目前已經通過NAT64實現了IPv6轉化服務接入,同時還通過可編程交換機開發了ulb7,實現整個IPv6的負載均衡接入。VPC3.0架構還支持整個IPv6的主動式流表下發,這就意味著UCloud可以無損支持純的IPv6網路。
雲計算不是冰冷冷的技術,更是IT基礎架構的服務,客戶需要的不光是單一產品,更是全方位的解決方案。通過7年的積累和完善,除了技術和資源,UCloud還積累了豐富的海量運營的體系經驗,包括:多維度立體化的監控體系、海量資源的全生命周期管理、全球數據中心自動化持續交付流水線、高效穩定SRE運維支撐、全流程的持續服務改進和極致可靠的安全防護。
王凱認為,整個基礎架構體系,體現了UCloud漫長的技術積累,是包括資源整合的能力、架構優化能力、技術研發能力、海量運營能力在內的綜合能力體現。在產業升級大趨勢中,UCloud將繼續隨業務成長,不斷演進全球基礎架構能力並對外綜合輸出,為上層業務和客戶提供服務,賦能產業變革。
---------------------------------------------------------


※教育賽道再加碼!位元組跳動確認有推出教育硬體產品的計劃
※有AI的軟通動力
TAG:驅動網 |