天天看點

高性能計算方案思考和整理

計算

CPU主頻高,核數多。一般情況下,主頻高時,核數會少,反之。伺服器/工作站多用志強處理器,個人用PC多用酷睿

并行計算。包含三個層面的并行:1)在程式中采用GPU/FPGA加速,将計算量分解到不同計算單元上。2)在程式中采用Spark之類架構,将計算量分解到不同計算節點,每個節點可能是一個高性能伺服器。3)采用集中式管理軟體,把封裝好的可執行檔案(.exe檔案)分别在不同計算節點上運作。

通信

千兆以太網:适合用作管理網絡。帶寬小,可傳輸小檔案和指令,選兩台普通PC作為管理節點,一個是管理排程,可遠端開關機,遠端檢視機房中每個計算節點運作負荷,集中管理個節點程式運作和對存儲節點的通路等。另一個是容錯處理,當管理排程意外停機時可以及時補位。

萬兆以太網:适合對外通信。可以傳輸視訊、計算結果到别的網關。光口傳輸穩定性優于電口。采用光纖傳輸需要配置光子產品,且光纖很脆弱;采用電口傳輸時,需要使用超六類網線,發熱大。

IB網:适合計算節點間通信。隻有Mellanox公司在做(http://www.mellanox.com/)這種交換機,目前帶寬可達200Gbps,市場中常見的有100Gbps和56Gbps. 曾測試通過從SSD盤傳輸8G檔案到SSD盤,使用1Gbps以太網用時約90s, 使用IB網約7s.速度有明顯提升。

存儲

有以下兩種方式:

1)磁盤陣列:可以加到管理節點中。不支援IB網

2)組網存儲伺服器:挂載在IB上,内部是SSD和DDR混合存儲。考慮存儲大小可擴充性和磁盤讀寫速度。

SSD磁盤:速度快,但是硬碟一旦損壞所有資料無法恢複。U.2接口SSD速度大約30Gbps,而普通SATA隻用6Gbps左右,但是U.2接口SSD很貴

DDR磁盤:傳統的機械硬碟。SAS接口向下相容SATA接口,适用于企業級

顯示

顯示卡:RTX2080Ti(成本效益高)\TitanV等;多高清輸出口(4k以上)

顯示屏:多顯示屏(三屏支架)

工業投影系統:高清大氣但成本高(三四十萬)

AR/VR:可以是手機/平闆/顯示屏/頭盔/投影等;3D空間;3D互動;沉浸感好;新穎

機房

隔音:真空玻璃隔斷

散熱:給機房空間單獨配置空調,對着機架吹風

安全性:自動滅火器

空間規劃:屋頂/地下走線,空調水,空調外機安裝,從電井直接取電等等

相容性

系統驅動和晶片組

外加的GPU\網卡占用PCIe槽數,空間是否足夠,是否會和其他部件幹涉或緊鄰存在短路風險

機箱電源功率一定要考慮擴充之後的功耗。可配多塊電源

繼續閱讀