天天看点

ACK实现GPU成本优化最佳实践

直达最佳实践:【 ACK实现GPU成本优化最佳实践

最佳实践频道:【

点击查看更多上云最佳实践

这里有丰富的企业上云最佳实践,从典型场景入门,提供一系列项目实践方案,降低企业上云门槛的同时满足您的需求!

场景描述

利用阿里云容器服务ACK部署GPU集群之后,出于成本优化的考虑,对于集群中GPU利用率不高的应用,比如推理的应用,建议利用阿里云cGPU技术将一定数量的应用跑到一块GPU卡上,以提高利用率。对于GPU利用率比较高的应用,不做改动。这样可以实现灵活管理的同时,降低整体成本。

本最佳实践通过一个实际的demo来演示如何建立ACK集群,使用cGPU来共享GPU。

方案优势

  • 在ACK服务中实现共享GPU,灵活拆分。
  • 提高GPU利用率,降低TCO。
  • 应用无需修改,保障多个容器共享同一个GPU时,彼此互相隔离。

产品列表

  • ECS云服务器
  • GPU云服务器
  • 容器服务ACK
  • 专有网络VPC
  • ARMS监控
  • ESS弹性扩容
ACK实现GPU成本优化最佳实践
直达最佳实践 》》
ACK实现GPU成本优化最佳实践

继续阅读