機器學習中Gradient Descent (Vanilla)梯度下降法的過程

Gradient Descent

最近在搞Deep Leaning，數學不好的我學的頭大啊。

在學之前，你或許和我一樣

First

從初始參數起始點

開始

• Second

計算一下

然後，向着Gradient的反方向去Update（更新）參數

• Thrid

得到新參數後，不斷重複上兩步過程

直到最終找到 Local Minima