神經網絡的softmax層

• softmax概述
• 神經網絡中的思想

softmax概述

在神經網絡中引入softmax主要是為了定義一個新的輸出層。

神經網絡中的思想

第j個輸出的神經元是：

aLj=ezLj∑kzLk

分母是對所有神經元進行求和

因為輸出的和總是1，是以有：

∑jaLj=∑jezLj∑kzLk=1

換句話，從softmax層的輸出可以看做是一個機率分布