天天看點

Tensorflow serving with docker

本次教程的目的是帶領大家看下如何用 Docker 部署深度學習模型的

第一步我們需要 pull 一個 docker image

sudo docker pull tensorflow/serving           
Tensorflow serving with docker

如上圖所示,執行 pull 之後,我們看到本地已經存在 tensorflow/serving:latest

接下來我們 clone 一個倉庫

git clone https://github.com/tensorflow/serving           
Tensorflow serving with docker

上圖中的 saved_model_half_plus_two_cpu 就是我們想要部署的模型

然後我們可以直接運作以下指令實作部署

Tensorflow serving with docker

運作結果如下圖所示,我們可以看到 Exporting HTTP/REST API at:localhost:8501,那麼就代表着部署成功了

Tensorflow serving with docker

接下來我們可以進行預測,傳回的結果也能對的上

Tensorflow serving with docker