Deploy a trained model

本次教程的目的是帶領大家學會用 Tensorflow serving 部署訓練好的模型

這裡我們用到的資料集是 Fashion MNIST，是以訓練出來的模型可以實作以下幾個類别的分類

'T-shirt/top', 'Trouser', 'Pullover', 'Dress', 'Coat',
               'Sandal', 'Shirt', 'Sneaker', 'Bag', 'Ankle boot'           

因為這篇教程主要關注部署，是以我們直接從已經訓練好的模型開始，儲存的格式是 SavedModel，如上圖所示

在這之前呢，我們需要先安裝好 tensorflow_model_server

接下來我們可以在控制台執行以下指令，就可以啟動一個 serving 服務了，我們可以通過 REST API 進行請求，并傳回預測結果

import requests
headers = {"content-type": "application/json"}
json_response = requests.post('http://localhost:8501/v1/models/fashion_mnist:predict', data=data, headers=headers)

predictions = json.loads(json_response.text)["predictions"]

show(0, "The model thought this was a {} (class {}), and it was actually a {} (class {})".format(class_names[np.argmax(predictions[0])], np.argmax(predictions[0]), class_names[test_labels[0]], test_labels[0]))           

上圖是通過請求，然後預測得到的結果，到此，我們實作了模型的 Tensorflow serving 的部署

代碼連結:

https://codechina.csdn.net/csdn_codechina/enterprise_technology/-/blob/master/tensorflow_serving.ipynb