深度學習中常見的激活函數

激活函數的作用是：去線性化，因為在更多的回歸和分類中，并不是一條線或者一個平面能夠劃分的，很多都是非線性的，所有激活函數的作用就凸顯了；

1.ReLU函數：

2.sigmoid函數：

3.tanh函數：