天天看點

LinkedIn資料中心的100G技術改革

linkedin的持續發展使得我們必須在未來的3-5年間将我們的資料中心發展到一個宏大的規模。altair項目是我們建立大規模可擴容資料中心的途徑。新的linkedin資料中心正在oregon建設中,内部稱作lor1,這将是我們建構的第一個大容量資料中心架構,這将引領我們将伺服器的級别從萬級走向十萬級。這個資料中心的新型網絡架構可以支援根據需要擴充伺服器數量,而且利用10/25/50/100的技術階梯來支援使用不同網絡連接配接的混合多層的服務。

在這篇部落格中,我們将闡述我們是如何利用100g技術建構高度可擴容且成本高效軟體的,這将引領我們的系統進入下一代的資料中心。

lor1網絡架構

lor1資料中心的網絡網絡是基于一個4面5階段的clos網絡建構,我們決定隻使用1ru 的機櫃建構整個資料中心的網路,以支援6位數起的伺服器。

linkedin的四個資料中心都是基于pod配置建構的,一共64個pod,每個pod有數千台伺服器,由于pod之間獨立建構并且可以優化本地流量,為擴容及過渡到大型資料中心環境需要,我們建立了一個扁平網絡使用固定的端對端延時和過載率。我們網絡的一些特色如下:

1. 骨幹網絡無過載 (1:1)

2. 端對端過載超過6:1

3. 解決端到端延遲 – 所有的交換機都是單芯單跳的

4. 隻使用1ru的交換機櫃

5. 整個資料中心使用同樣的交換 (32x100g)

6. 基于上述過載的六位數伺服器容量

7. 網絡容量與服務數實作三級上載

8. 易于管理,易于擴容

9. 簡單!

以100g為基準技術

為了适配100g技術,我們發現自己處于一種困境當中。一方面,在一線使用的時候有很多好處,比如容量、特征、規模等;另一方面,費用是一個問題。在linkin我們成功打破了這個沖突。我們利用 psm4技術解決了這個問題。我們使用100gpsm技術并按50g劃配置設定置。這使我們可以從最新的交換技術中獲利,光連接配接的價格是使用40g光纖互聯的一半。

關注單端口的成本,40g光子產品(單點模式)如lr4-light與psm4子產品成本相當。但是每個psm4子產品卻可以傳輸兩個節點而且還比lr4-light多25%的帶寬。

從大的角度上講資料中心(即使一個較小的尺度),對于投資者的資本支出可以節省數百萬美元,而且更快更好。出于保密原因,我們不能分享具體的支出資料,但是我希望大家都根據自己的環境計算下到底能省多少錢。

這個解決方案的唯一挑戰是在一個實體端口上分享兩個邏輯端口,稱作四通道sfp (qsfp)接口。以工業上大容量交換機的觀點來看,我們有足夠的端口來處理這個問題,但是我們需要光子產品供應商給我們提供50g的子產品,psm2或者cwdm2。這将是任何資料中心從10/40g網絡遷移到10/25/50/100g網絡的理想方式,并且将帶領整個産業進入下一個層次。我想号召一下,如果你有志于50g技術的開發,讓我們一起把它變為現實吧。

将來的開發計劃

在linkedin,我們計劃繼續驅動光網絡技術在一線的應用,以及未來資料中心的連接配接技術。我們期待200g技術和一個8通道版的qsfp,這樣就能解決qsfp的缺點,也能突破200g/400g成本高效網絡技術。我們也将繼續支援和激活資料中心各個次元的創新,從網絡和連接配接到服務和存儲。

綜述

我們建構了一個以100g為基線技術的高可擴充且成本高效的資料中心技術,主要利用将100g分為兩個50g的思路。我們将繼續努力建設最好的資料中心,來保證linkedin未來數年的應用和服務創新。

本文轉自d1net(轉載)