場景描述
本實踐适用于自然語言訓練場景，使用神龍GPU雲伺服器（SCCGN6）+CPFS 進行NLP的訓練，采用Bert模型。這裡不使用容器，直接使用裸機進行NLP的Bert訓練，使用飛天AI加速訓練工具可以有效提升多機多卡的訓練效率。
解決問題
- 使用神龍 GPU 雲伺服器搭建 NLP 訓練環境
- 使用 SCC 的 RDMA 網絡
- 使用 CPFS 存儲訓練資料
- 使用飛天 AI 加速訓練工具加速訓練
産品清單
- 神龍雲伺服器 GPU (SCCGN6)
- 超級計算叢集 SCC
- 共享存儲 CPFS
本實踐适用于自然語言訓練場景，使用神龍GPU雲伺服器（SCCGN6）+CPFS 進行NLP的訓練，采用Bert模型。這裡不使用容器，直接使用裸機進行NLP的Bert訓練，使用飛天AI加速訓練工具可以有效提升多機多卡的訓練效率。