導數概念

導數是用來反映函數局部性質的工具。對于一個函數來說，函數在某一點的導數描述了這個函數在這一點附近的變化率。

如果函數的自變量和取值都是實數的話,函數在某一點的導數就是該函數所代表的曲線在這一點上的切線斜率。導數的本質是通過極限的概念對函數進行局部的線性逼近。

例如在運動學中,物體的位移對于時間的導數就為速度。

常數求導

y = c

常數求導為零，說明他的斜率為0，也說明了常數沒有變化。

Gradient Descent 梯度下降是機器學習算法模型參數求解法之一，另外一種如最小二乘法，目的是得到最小化的損失函數，那如果要求解損失函數的最大值，則用梯度上升。

為求損失為最小，遞歸性逼近最小偏差，裡面要加上步長，如函數 y = x 2 y=x^2 y=x2

也就是y = x的平方，求導為y = 2x

x = x- （步長） * （求導）

設定step = 0.1 【步長決定收斂速度】

x = x - (0.1)* 2*x

y變化接近于零時， y 達到局部最小值。