天天看點

softmax 激活函數softmax激活函數

目錄

softmax函數

softmax激活函數

softmax用于多分類過程中,它作用在輸出層将多個神經元的輸出,映射到(0,1)區間,可以看成機率來了解,進而來進行多分類!

假設我們有一個數組V,i表示V中的第i個元素,那麼這個元素的softmax值就是

softmax 激活函數softmax激活函數

更形象的如下圖表示

softmax 激活函數softmax激活函數

對于圖檔中的例子,原來3,1,-3的輸出通過softmax函數一作用,就映射成為(0,1)的值,而這些值的累和為1(滿足機率的性質),那麼我們就可以将它了解成機率,在最後選取輸出結點的時候,我們就可以選取機率最大(也就是值對應最大的)結點,作為我們的預測目标!

繼續閱讀