直達最佳實踐:【 ACK實作GPU成本優化最佳實踐】
最佳實踐頻道:【
點選檢視更多上雲最佳實踐
這裡有豐富的企業上雲最佳實踐,從典型場景入門,提供一系列項目實踐方案,降低企業上雲門檻的同時滿足您的需求!
場景描述
利用阿裡雲容器服務ACK部署GPU叢集之後,出于成本優化的考慮,對于叢集中GPU使用率不高的應用,比如推理的應用,建議利用阿裡雲cGPU技術将一定數量的應用跑到一塊GPU卡上,以提高使用率。對于GPU使用率比較高的應用,不做改動。這樣可以實作靈活管理的同時,降低整體成本。
本最佳實踐通過一個實際的demo來示範如何建立ACK叢集,使用cGPU來共享GPU。
方案優勢
- 在ACK服務中實作共享GPU,靈活拆分。
- 提高GPU使用率,降低TCO。
- 應用無需修改,保障多個容器共享同一個GPU時,彼此互相隔離。
産品清單
- ECS雲伺服器
- GPU雲伺服器
- 容器服務ACK
- 專有網絡VPC
- ARMS監控
- ESS彈性擴容
