阿裡雲NPU雲伺服器AN1搭載平頭哥含光NPU高成本效益AI推理阿裡雲NPU雲伺服器AN1

2020-06-23 23:50:00

阿裡雲NPU雲伺服器AN1搭載平頭哥含光NPU，提供高成本效益AI推了解決方案，雲伺服器吧分享阿裡雲NPU雲伺服器介紹、NPU雲伺服器特點及NPU雲伺服器使用場景：

阿裡雲NPU雲伺服器AN1

AN1配備阿裡平頭哥自研神經網絡加速晶片-含光NPU，提供單晶片超強AI推理性能。虛拟化技術采用阿裡雲自研神龍虛拟化計算平台，為使用者提供彈性裸金屬NPU加速執行個體，兼顧了實體伺服器的功能性能優勢，以及雲伺服器的高可用優勢。關于阿裡雲NPU雲伺服器配置性能可以參考：

，NPU計算型ebman1執行個體搭配自研深度神經網絡加速器含光800（AliNPU）。

開發工具采用阿裡平頭哥RatelNN自動化開發工具，支援主流深度學習架構TensorFlow、Caffe和MXNET，并針對通用模型進行了深度優化，廣泛适用于語音、圖檔、視訊等AI推理業務，為客戶提供超高成本效益的推了解決方案。

NPU雲伺服器特點及性能

搭載平頭哥含光NPU的雲伺服器具備全球最高單晶片AI推理性能：

單晶片最高AI推理性能

含光NPU采用TSMC 12nm工藝制程，提供全球最高單晶片AI推理性能。在ResNet50模型的推理應用中，含光NPU每秒鐘可處理高達78000 IPS的圖檔，是同類處理器的數十倍性能。

阿裡雲自研神龍裸金屬虛拟化平台

阿裡NPU雲伺服器采用阿裡雲自研神龍裸金屬虛拟化平台，實作全Hypervisor解除安裝，為使用者提供功能無損，性能無損的AI計算加速服務，同時相容阿裡雲整體産品生态，為客戶提供資料傳輸，計算，存儲等一系列完整解決方案。

完善的自動化開發工具

阿裡平頭哥RatelNN自動化開發工具，支援主流開源架構TensorFlow，Caffe以及MXNET；支援離線量化、編譯以及圖優化；支援多模型動态部署以及多裝置管理；完善的裝置驅動調試工具。

針對業務場景深度優化

針對CNN及視覺類算法，如ResNet-50，SSD/DSSD，Faster-RCNN，DeepLab等模型進行了深度優化。因有效優化了計算、存儲密度，可實作大網絡模型在一顆NPU上完成計算。

圖像搜尋

通過輸入具有相同元素或主體内容的圖檔，在自建圖檔庫中查找相似或相同的圖檔。如圖庫網站圖像搜尋，圖檔分享和社交類網站通常有大量圖檔供使用者搜尋使用，利用圖像搜尋服務，可快速實作使用者的以圖搜圖需求。

場景識别

場景識别通過深度學習算法，自動識别圖像中的數十種常見的場景，如天空、草地、人物等。客戶的應用程式可以基于這個功能，輕松實作圖檔的自動管理、分組和搜尋功能，完成大型圖像庫的智能管理。

視訊内容識别

如直播、點播、短視訊等違規畫面稽核。直播、點播、短視訊場景中視訊中的色情、政治敏感、暴力、武器、恐怖、血腥、爆炸、抽煙、吸毒、畫中畫等内容進行識别，避免出現的内容帶給青少年不良影響。

自然語言處理

自然語言處理目前已成為各類企業及開發者用于文本分析及挖掘的核心工具，已經廣泛應用在電商、文化娛樂、金融、物流等行業客戶的多項業務中。自然語言處理技術幫助使用者搭建内容搜尋、内容推薦、輿情識别及分析、文本結構化、對話機器人等智能産品。