天天看點

sigmoid函數求導的步驟補充

網上有不少關于sigmoid函數求導的文章(比如來自CSDN的博文sigmoid函數求導與自然指數),但是求導過程中對于怎麼由(1/(1+exp(-x)))'一下推導至exp(-x)/(1+exp(-x))^2沒有提及。雖然對于熟練函數求導的朋友們不難,但對于剛接觸函數求導或者隔了若幹年忘記函數求導的朋友們還是有不少疑惑。

這裡借助函數的和的求導法則(f(x)+g(x))'=f(x)'+g(x)',複合函數的求導法則f(g(x))'=f(u)'g(x)',u=g(x)以及把(1/(1+exp(-x)))'轉成((1+exp(-x))^-1)',那麼求導過程就清楚多了:

(1/(1+exp(-x)))'=((1+exp(-x))^-1)'=(-1)((1+exp(-x))^-2)(1+exp(-x))'=(-1)((1+exp(-x))^-2)(exp(-x))'

而(exp(-x))'可以先轉成(exp(x)^-1)',于是她又是一個複合函數的求導,即(exp(x)^-1)對exp(x)的導數再乘上exp(x)對x的導數,又基本初等函數求導公式告訴我們,(exp(x))'=exp(x),是以(exp(-x))'=(exp(x)^-1)'=(-1)(exp(x)^-2)(exp(x))'=(-1)(exp(x)^-2)exp(x)=(-1)(exp(x)^-1)=(-1)exp(-x)

那麼:

(-1)((1+exp(-x))^-2)(exp(-x))'=(-1)((1+exp(-x))^-2)(-1)exp(-x)=exp(-x)((1+exp(-x))^-2)=exp(-x)/((1+exp(-x))^2)

至此,sigmoid函數求導的步驟補充完畢。



繼續閱讀