MachineLearning學習——0219——深度學習之多層感覺機

參考：https://github.com/apachecn/vt-cs4624-pyml-zh/blob/master/docs/21.md

多層感覺機Multilayer Perceptron

介紹：

• 多層感覺機是深層的神經網絡，神經網絡由節點層構成，這些節點根據先前層的節點在不同級别上激活。
• 由至少三大層組成：輸入層，中間層，輸出層
• 超級好玩的調參遊戲：線上網站

動機：

        多層感覺機是學習進階模型的基礎；而且我們不能小看它，僅具有單個隐藏層的網絡可以近似任何連續函數。

關于節點：

        節點是神經網絡中的單個單元。節點的輸入，是上一層所有節點的權重輸出之和。是以權重決定輸出，也是同一層節點的唯一差別。

什麼定義了多層感覺機：

        多層感覺機是前饋網絡的一種，使用反向傳播進行訓練。前饋是指後一層的輸入隻能是前一層的輸出，資料流動不存在循環。多層感覺機的特征在于輸入層，中間層和輸出層都是完全連接配接（類似全連接配接層）的。

什麼是反向傳播？

        輸出層的每個節點與我們想要的label一 一對應，根據對比節點輸出和label，可以計算出成本。反向傳播就是利用成本，幫我們調整權重。

預測過程的計算我了解，但是反向傳播的底層實作不了解，應深入研究。但是最近實驗室任務較多，更新會變慢。。。