天天看點

[機器學習]機器學習筆記整理12-線性回歸概念了解

前提介紹:

為什麼需要統計量?

統計量:描述資料特征

集中趨勢衡量

均值(平均數,平均值)(mean)

這裡寫圖檔描述

{6, 2, 9, 1, 2}

(6 + 2 + 9 + 1 + 2) / 5 = 20 / 5 = 4

中位數 (median):

将資料中的各個數值按照大小順序排列,居于中間位置的變量

給資料排序:1, 2, 2, 6, 9

找出位置處于中間的變量:2

當n為基數的時候:直接取位置處于中間的變量

當n為偶數的時候,取中間兩個量的平均值

衆數 (mode):

資料中出現次數最多的數

離散程度衡量

方差(variance)

(1) (6 - 4)^2 + (2 - 4) ^2 + (9 - 4)^2 + (1 - 4)^2 + (2 - 4)^2

= 4 + 4 + 25 + 9 + 4

= 46

(2) n - 1 = 5 - 1 = 4

(3) 46 / 4 = 11.5

标準差 (standard deviation)

介紹:回歸(regression) y變量為連續數值型(continuous numerical variable)

簡單線性回歸(simple linear regression)

2.1 很多做決定過過程通常是根據兩個或者多個變量之間的關系

2.3 回歸分析(regression analysis)用來建立方程模拟兩個或者多個變量之間如何關聯

2.4 被預測的變量叫做:因變量(dependent variable), y, 輸出(output)

2.5 被用來進行預測的變量叫做: 自變量(independent variable), x, 輸入(input)

簡單線性回歸介紹

3.1 簡單線性回歸包含一個自變量(x)和一個因變量(y)

3.2 以上兩個變量的關系用一條直線來模拟

3.3 如果包含兩個以上的自變量,則稱作多元回歸分析(multiple regression)

簡單線性回歸模型

4.1 被用來描述因變量(y)和自變量(x)以及偏差(error)之間關系的方程叫做回歸模型

4.2 簡單線性回歸的模型是:

[機器學習]機器學習筆記整理12-線性回歸概念了解

簡單線性回歸方程

正向線性關系:

負向線性關系:

無關系

估計的簡單線性回歸方程

這個方程叫做估計線性方程(estimated regression line)

其中,b0是估計線性方程的縱截距

線性回歸分析流程:

關于偏差ε的假定

11.1 是一個随機的變量,均值為0

11.2 ε的方差(variance)對于所有的自變量x是一樣的

11.3 ε的值是獨立的

11.4 ε滿足正态分布

繼續閱讀