Sigmoid和tanh的異同
計算過程（若有誤，請指正）：
1.sigmoid函數
公式：
定義域：R
值域：(0,1)
導數：
導函數定義域：R
導函數值域：(0,0.25]
圖像：
2.tanh函數
公式：
定義域：R
值域：(-1,1)
導數：
導函數定義域：R
導函數值域：(0,1]
圖像：
都是人工神經網絡中的資訊傳輸函數，或稱激活函數。
倆函數之間的關系：
由它們的函數和導函數的取值區間可以看出它們為什麼會被選做激活函數了。
它們之間存在的細微差别
觀察sigmoid和tanh的函數曲線，sigmoid在輸入處于[-1,1]之間時，函數值變化敏感，一旦接近或者超出區間就失去敏感性，處于飽和狀态，影響神經網絡預測的精度值。tanh的輸出和輸入能夠保持非線性單調上升和下降關系，符合BP網絡的梯度求解，容錯性好，有界，漸進于0、1，符合人腦神經飽和的規律，但比sigmoid函數延遲了飽和期。
其他滿足定義域為R，值域為(0,1)的函數
參考資料：
Sigmoid的維基百科連結https://en.wikipedia.org/wiki/Sigmoid_function
Tanh的維基百科連結https://en.wikipedia.org/wiki/Hyperbolic_function
http://blog.sina.com.cn/s/blog_6bb5e91b0102vbbr.html