〇、參考（搬運）
0.1 一文弄懂logistic回歸為什麼要用sigmoid函數
0.2 為什麼 LR 模型要使用 sigmoid 函數，背後的數學原理是什麼？
0.3 邏輯回歸為什麼用Sigmoid？
一、邏輯斯蒂回歸LR（摘自《統計學習方法》）
1.1 二項邏輯回歸
一個事件發生的幾率是指事件發生的機率與不發生的機率的比值。即，如果發生的機率為p，那麼該事件的對數幾率為：
整理帶入後：
這就是說，在邏輯回歸模型中，輸出Y=1的對數幾率是輸入的線性函數。
1.2 模型參數估計
二、為什麼使用sigmoid函數
2.1 先驗知識
2.1.1 指數族分布
2.1.2 伯努利分布
2.1.3 高斯分布
2.1.4 廣義線性模型GLM
2.2 廣義線性模型角度
由上可以知道，伯努利分布屬于指數族分布，再依據廣義線性模型的後兩個假設條件可以得到：
這裡有一個二分類問題的假設——因變量（分類标簽值y）服從伯努利分布。
2.3 貝葉斯判别角度
假設二分類服從伯努利分布，類條件機率假設服從高斯分布：
則在貝葉斯判别中，最大化後驗機率：