天天看點

中國人工智能學會通訊——一張圖看懂BP算法 1.3 神經網絡的 BP 算法

中國人工智能學會通訊——一張圖看懂BP算法 1.3 神經網絡的 BP 算法

它描述了網絡輸出和目标輸出之間的距離,刻畫了網絡性能的好壞。顯然,J越小,網絡性能越好。尋求J的極小點是BP算法的目标。

中國人工智能學會通訊——一張圖看懂BP算法 1.3 神經網絡的 BP 算法

這一關系式表明隻要能計算出敏感性,即可據此計算出梯度。

中國人工智能學會通訊——一張圖看懂BP算法 1.3 神經網絡的 BP 算法

删除中間過程,有

中國人工智能學會通訊——一張圖看懂BP算法 1.3 神經網絡的 BP 算法
中國人工智能學會通訊——一張圖看懂BP算法 1.3 神經網絡的 BP 算法

通過計算網絡最後一層神經元的敏感性,然後在網絡中反向逐層計算其他層神經元敏感性,這就是所謂BP。

中國人工智能學會通訊——一張圖看懂BP算法 1.3 神經網絡的 BP 算法
中國人工智能學會通訊——一張圖看懂BP算法 1.3 神經網絡的 BP 算法

圖4非常容易記憶和了解,這就是我們所謂的一張圖看懂BP算法。

繼續閱讀