邏輯回歸python sigmoid(z)_邏輯回歸( Logistic Regression)的Python源碼的實作

1. 前言

本文主要講解邏輯回歸的代碼的實作，邏輯回歸的原理講解大家可以去coursera上面看吳恩達的機器學習課程的第三周的課程，裡面講解的比較詳細，适合入門的學者。b站上面也有該課程的視訊，邏輯回歸的内容在視訊33-視訊39

以下為該課程網上的相關筆記:

2. 源碼講解

下面開始源碼的講解

2.1 __init__()

def __init__(self, learning_rate=.1, n_iterations=4000):

self.learning_rate = learning_rate

self.n_iterations = n_iterations

初始化函數，初始化學習率、疊代的次數。

2.2 initialize_weights()

def initialize_weights(self, n_features):

# 初始化參數

# 參數範圍[-1/sqrt(N), 1/sqrt(N)]

limit = np.sqrt(1 / n_features)

w = np.random.uniform(-limit, limit, (n_features, 1))

b = 0

self.w = np.insert(w, 0, b, axis=0)

初始化參數，參數矩陣w裡的大小範圍在(-limit，limit)之間，矩陣大小為(n_features，1)。w加入b的值相當于把偏置值加進去

2.3 sigmoid()

def sigmoid(x):

return 1 / (1 + np.exp(-x))

sigmoid函數

2.4 fit()

def fit(self, X, y):

m_samples, n_features = X.shape

self.initialize_weights(n_features)

# 為X增加一列特征x1，x1 = 0

X = np.insert(X, 0, 1, axis=1)

y = np.reshape(y, (m_samples, 1))

# 梯度訓練n_iterations輪

for i in range(self.n_iterations):

h_x = X.dot(self.w)

y_pred = sigmoid(h_x)

w_grad = X.T.dot(y_pred - y)

self.w = self.w - self.learning_rate * w_grad

邏輯回歸的主要核心函數嗎，X加多一列全1的值，這樣wx相當于wx + b。然後根據疊代的次數，利用梯度下降法循環優化w，w_grad是梯度。

2.5 predict():

def predict(self, X):

X = np.insert(X, 0, 1, axis=1)

h_x = X.dot(self.w)

y_pred = np.round(sigmoid(h_x))

return y_pred.astype(int)

預測函數，利用優化求得的w預測資料的分類。

3. 源碼位址

直接運作logistic_regression.py即可