天天看點

ACK實作GPU成本優化最佳實踐

直達最佳實踐:【 ACK實作GPU成本優化最佳實踐

最佳實踐頻道:【

點選檢視更多上雲最佳實踐

這裡有豐富的企業上雲最佳實踐,從典型場景入門,提供一系列項目實踐方案,降低企業上雲門檻的同時滿足您的需求!

場景描述

利用阿裡雲容器服務ACK部署GPU叢集之後,出于成本優化的考慮,對于叢集中GPU使用率不高的應用,比如推理的應用,建議利用阿裡雲cGPU技術将一定數量的應用跑到一塊GPU卡上,以提高使用率。對于GPU使用率比較高的應用,不做改動。這樣可以實作靈活管理的同時,降低整體成本。

本最佳實踐通過一個實際的demo來示範如何建立ACK叢集,使用cGPU來共享GPU。

方案優勢

  • 在ACK服務中實作共享GPU,靈活拆分。
  • 提高GPU使用率,降低TCO。
  • 應用無需修改,保障多個容器共享同一個GPU時,彼此互相隔離。

産品清單

  • ECS雲伺服器
  • GPU雲伺服器
  • 容器服務ACK
  • 專有網絡VPC
  • ARMS監控
  • ESS彈性擴容
ACK實作GPU成本優化最佳實踐
直達最佳實踐 》》
ACK實作GPU成本優化最佳實踐

繼續閱讀