天天看點

r470伺服器組裝圖解,深度學習伺服器組裝經驗過程分享

本文作者較長的描述了自己組裝深度學習伺服器的過程,從 CPU、GPU、主機闆、電源、機箱等的選取到部件的安裝,再到伺服器的設定,可謂面面俱到。作者指出,組裝者首先要弄清自己的需求,然後根據預算做出合理的選擇。

我剛開始學習 fast.ai 課程的第一部分——“Practical Deep Learning for Coders”,我想搭建自己的伺服器來訓練模型,作為使用 AWS p2 和存儲的更新。我将會使用更大的資料集,并且我不希望在訓練模型時因為缺乏足夠的處理能力而等待數小時,是以建構自己的 DL rig 伺服器對我來說是一個不錯的選擇,而且從長遠來看,它将為我節省大量的時間和金錢,而且可以積累組裝伺服器的良好經驗。

組裝

列出部件清單

在準備部件之前,你要弄清楚自己到底想從機器中得到什麼。個人而言,我想獲得以下改進:

比 Amazon p2 更加強大

容納額外 GPU、RAM、存儲及定制液體冷卻的空間

可以用很久的硬體

預算控制在 3000 美元左右

我用 pcpartpicker。com來細化各個部件,因為它可以将對比群組裝其它部件變得非常簡單,而且還具備很不錯的部件相容性檢查器。我将詳細解釋選擇每個部件的原因以及它們如何與整個系統協同工作。

GPU: GTX 1080 TI Hybrid

因為你要使用顯示卡來訓練模型,是以這是組裝過程中最重要的一部分,是以,GPU 越強大,你處理大型資料集的速度就越快。GPU 記憶體越大,處理能力也就越強(如:訓練速度更快,批尺寸更大……)。我為自己的伺服器選了兩塊這種顯示卡,因為我在預算裡為它們預留了空間,這樣我就能用其中一塊顯示卡訓練模型,讓另一個使用者在第二塊卡上訓練其模型。你可以根據自己的預算縮減 GPU 記憶體(1070、1060 等),防止與其它部件争搶預算。Hybrid 1080 GPU 也不錯,因為除了大多數 GPU 具有的正常風扇冷卻之外,它還預裝了 aio 水冷系統。1080 TI 在滿負載運作時會過熱,是以,在訓練模型時,良好的冷卻系統對于延長顯示卡壽命并保持其性能至關重要。關于顯示卡選擇的更多細節,請參見 ,該文幫助我真正了解了如何選擇适合深度學習環境的顯示卡。

CPU: AMD Threadripper 1900x

雖然你用顯示卡訓練神經網絡,但 CPU 依然很重要,因為你要用它來進行資料準備等操作,是以那些多核 CPU 将有助于加快速度。我用的是“線程撕裂者”Treadripper,因為這是市面上非常新的一款多核 CPU(ThreadRipper 2 代有 32 個核心!),而且比因特爾價格低得多。1900x 是去年釋出的基礎版 TR,它隻有 8 個核心,不過我對這台伺服器的整體目标是保持它的可更新性。

需要注意的一點是,在選擇 CPU 時,要確定有 8 或 16 個 pcie 插槽供顯示卡使用,這樣才能保證它們在低負載下發揮最好的性能,否則就有堵塞系統的風險。在高端 CPU 上,如果你的伺服器中有 4 個顯示卡,那麼你就有足夠的 pcie 插槽。

主機闆:MSI X399 SLI Plus

選擇這塊主機闆是因為它是一塊完整的 ATX 闆,可容納 4 個 GPU,RAM 最多可達 128GB。正如我前面所說,這個伺服器的主要目标之一是保持它可更新。

記憶體:32GB Corsair Vengeance LPX DDR4 (2 x 16GB)

記憶體越大,處理大型資料集就越容易。我的下一個更新計劃是再添加兩個 16GB RAM 記憶體條,這也是我沒有安裝四通道記憶體(4 個 8GB 記憶體條)的原因,盡管它會提高我的伺服器的性能。

存儲:256GB Samsung SSD & 2TB HDD

我把 Ubuntu、我的所有庫、我在 SSD 上正在使用的資料集以及手裡的其它所有資料都存在 2TB 的機械硬碟上。

冷卻器:Corsair H100i v2 液體冷卻器

“線程撕裂者”沒有備用冷卻器(如果你有 30 美元的餘款,至少應該買一個便宜的二手冷卻器),是以我想要一個可以全天候使用的、便宜又容易維護的冷卻器。這款集各種優點于一身的冷卻器非常容易安裝,而且非常可靠(在數十萬台機組中,可能隻有一兩台發生冷卻液洩漏)、安靜。

電源:EVGA SuperNOVA 1000w 80 + Gold CerTIfied

最好有一個功率超過技術要求的 PSU。PCPartpicker 的功率電腦能夠大緻算出你需要多大的功率(我的伺服器是 824w),然而它經常在數量上出錯,是以最好進行安全操作,以防你的計算機無法打開。“Gold CerTIfied”隻是指 PSU 的效率(浪費了多少功率作為熱量)。

機箱:Corsair 760T Full Tower

我選擇這個機箱是因為它的價格和内部空間大小。雖然它并不能提高你的模型訓練速度,但是透明的側面闆和紅色的 LED 确實讓你看起來更酷。

r470伺服器組裝圖解,深度學習伺服器組裝經驗過程分享