天天看點

NVMe over TCP高性能檔案存儲,焱融科技+Lightbits讓未來照進現實

在說NVMe之前,我們覺得有必要先聊一聊NVM(Non-Volatile Memory),即非易失性記憶體。從名字上看就知道,NVM是一種類記憶體式(通路及尋址方式類似)的裝置,它必須具備高速讀寫資料的能力,但它和普通記憶體的差別在于Non-Volatile,即在關機後再打開電源也可以檢索裡邊所存儲的資料。這種非易失性記憶體NVM裝置有很多種實作,我們常用于伺服器的大容量NVM是一種閃存,即Flash Memory。閃存是一種固态晶片,主流的閃存裝置使用NAND技術來映射資料,這種晶片無需任何外部電源即可維護存儲的資料,它的讀寫速度比記憶體稍低,但無需借助機械方式進行尋址,是以讀寫性能遠高于機械磁盤,容量也比記憶體要大,單GB成本近年來快速下降,大有成為伺服器上高速存儲媒體主流裝置的趨勢。

NVMe over TCP高性能檔案存儲,焱融科技+Lightbits讓未來照進現實

NVMe協定組成架構

有了NVM裝置和通路這個裝置的協定NVMe,就一定能享受到這些裝置帶來的高性能了嗎?答案是否定的。

首先要說到的,就是資料傳輸的問題,資料傳輸指的就是NVM裝置到伺服器記憶體之間的傳輸。外圍元件互連Express(PCIe)是目前使用最多的傳輸媒體。NVM裝置及NVMe協定設計之初,也是先面向PCIe或PCI Hub的。通過PCI通路NVM裝置會有什麼問題呢?很容易就能想到,一台伺服器上PCI接口是有限的,是以也不能接入很多的NVM裝置,那麼容量就會受到限制了。此外,資料中心内其它伺服器也很難通過PCI通路另一台伺服器上的NVM裝置。這就很大限制了NVM裝置的使用。

除了PCI之外,還有什麼方式能進行NVM裝置上資料的傳輸嗎?當然有,這就是NVMe over Fabric,所謂的Fabric有幾種方式,可以是Fibre Chanel,即目前磁盤陣列中使用的傳輸網絡,或者InfiniBand。NVMe-oF使得一台伺服器可以通過網絡的方式,通過NVMe協定直接通路遠端另一台伺服器上的NVM裝置,帶寬和延時近似于裝置插在本地伺服器上,這就極大拓寬了NVM裝置的使用範圍。但細心的讀者應該很快能反應過來,在現代資料中心,TCP網絡使用更廣,是以,NVMe組織在2019年推出了NVMe over TCP技術,進而使伺服器通過TCP網絡就可以通路遠端的NVM裝置了。

NVMe over TCP高性能檔案存儲,焱融科技+Lightbits讓未來照進現實

NVMe over TCP技術作為創新型技術,從推出就瞄準了通過TCP互聯的,更廣闊的雲和資料中心大規模使用NVM裝置的場景。

其次是通路效率的問題,與SCSI等協定不同,NVMe協定實作了多隊列的架構和指令集,更能發揮多核CPU伺服器的處理能力,使該協定指令集在多核CPU伺服器上發揮更好的性能,存儲系統如果不能針對這些特點進行深入的優化,也不能充分享受到新型媒體和協定帶來的紅利。而針對NVMe協定和裝置進行的系統級優化,是包括焱融科技在内的軟體定義存儲廠商需要攻克的難關。

此外,還需要考慮應用通路接口的問題。目前,人工智能、高性能計算系統主要通過檔案系統通路非結構化資料,建構以NVMe協定為基礎的,以高帶寬、低延時為核心要求的高性能檔案系統是應用系統的核心要求,這也是應用場景驅動創新的出發點。

LightOS是以色列技術型存儲創新企業,焱融科技與Lightbits聯合方案,可以為使用者提供NVMe多隊列并發通路的極緻性能,最重要的是,能将NVMe裝置通過TCP方式,組成高性能分布式檔案系統,向上層應用提供檔案通路服務。對上層應用而言,完全無需關心底層存儲細節、資料如何放置,即可使用高IOPS、高帶寬、極低延時的檔案共享通路服務。

NVMe over TCP高性能檔案存儲,焱融科技+Lightbits讓未來照進現實

焱融科技與Lightbits OS對參考架構進行了性能、可靠性、可用性的測試,測試架構如下所示:

各個伺服器之間使用25Gb以太網進行連接配接,使用三台伺服器搭建YRCloudFile叢集,在常用的TCP網絡條件下,單個用戶端節點的4K随機讀IOPS可達38萬,寫IOPS達30萬,讀寫延時均低于400us。多用戶端通路,各用戶端性能互不幹擾,叢集可為每個用戶端穩定提供相同的功能。

NVMe over TCP高性能檔案存儲,焱融科技+Lightbits讓未來照進現實

在大IO順序讀寫測試中,單用戶端讀寫帶寬均達到2.8GB/s,接近25Gb網絡帶寬上限。

NVMe over TCP高性能檔案存儲,焱融科技+Lightbits讓未來照進現實

使用vdbench模拟200,000個不同檔案大小進行讀寫帶寬測試,對4K小檔案的讀寫性能為1280MB/s和1040MB/s,對128KB大檔案讀寫性能可達2800MB/s。

NVMe over TCP高性能檔案存儲,焱融科技+Lightbits讓未來照進現實

YRCloudFile+LightOS聯合方案,具備以下優勢:

隻需借助現有的以太網絡,即可快速搭建基于全NVMe的分布式檔案系統,無需購買額外的專用交換裝置和網卡

多個上層應用伺服器可通過檔案接口共享通路底層海量非結構化資料

業界一流的檔案系統随機讀寫、順序讀寫性能

資料去重壓縮,TCO減少20%-50%

單叢集可達百PB空間,承載百億檔案。滿足海量的檔案數量與空間需求

可同時提供檔案存儲和塊存儲接口,滿足不同業務接口的需求

High performance file system is critical infrastructure facility to applications like AI. YanRong Tech and Lightbits Lab cooperate closely, announce the NVMe/TCP file system with high performance and massive small files support, providing an innovative solution to all customers and partners. ------ Alfred Chase Hui, Lightbits亞太區銷售總監

該聯合方案非常适用于人工智能、高性能計算、基因科學、影視渲染、氣象分析、資源勘探等依賴高性能檔案系統,以及擁有海量非結構化資料的應用場景,能有效幫助客戶提升業務系統對非結構化資料的通路性能,進而改進業務運作效率,解決資料分析的系統瓶頸。

如需擷取解決方案完整版本,檢視推薦架構以及參考性能名額,請發送郵件聯系我們:[email protected]

Lightbits Labs

成立于2016年的Lightbits Labs正在全球範圍内重塑現代雲基礎設施。公司的使命是重構存儲和網絡在雲資料中心的部署方式。Lightbits的軟體定義分離式存儲解決方案為企業私有雲、軟體即服務(SaaS)和基礎架構即服務(IaaS)提供商節省大量時間和成本,同時實作更高的應用程式性能和公共雲級别的可擴充性。Lightbits Labs最先認識到全NVMe高性能存儲媒體及協定與标準TCP網絡相結合所帶來的機會。其LightOS®軟體和LightField™存儲加速卡是第一個提供在标準TCP網絡上運作的全局閃存轉換層(GFTL)的NVMe/TCP解決方案。

焱融科技

焱融科技是一家以軟體定義存儲技術為核心競争力的高新技術企業,在分布式存儲等關鍵技術上擁有自主知識産權,是高性能檔案存儲和容器存儲的上司者。焱融科技核心産品YRCloudFile在全球IO500性能測試中,進入世界前六。同時,YRCloudFile是國内首個進入CNCF Landscape的容器存儲産品。焱融科技針對各行業業務特性,打造個性化行業解決方案,提供一站式的産品與服務。焱融科技系列産品已服務于人工智能、金融、政府、制造業、網際網路等行業的衆多客戶。了解更多焱融科技資訊,請通路官網http://www.yanrongyun.com。

繼續閱讀