Apex混合精度加速介紹：為了幫助提高Pytorch的訓練效率，英偉達提供了混合精度訓練工具Apex。号稱能夠在不降低性能的情況下，将模型訓練的速度提升2-4倍，訓練顯存消耗減少為之前的一半。該項目開源于：https://github.com/NVIDIA/apex ,文檔位址是：https://nvidia.github.io/apex/index.html該工具提供了三個功能，amp、parallel和normalization。
安裝步驟：
1、在github上下載下傳apex檔案到本地
下載下傳位址 https://github.com/NVIDIA/apex，下載下傳解壓後如下：
2、将下載下傳解壓好的apex檔案放到anaconda建立的環境下的site-packages檔案夾中。
anaconda3/envs/環境名/Lib/site-packages
3、在cmd指令視窗，進入到apex檔案夾中，激活環境，安裝requirements.txt裡面依賴的包；
4、開始安裝apex，運作：python setup.py install
安裝結果：
