我們在進行模組化時,變量中經常會有一些變量為離散型變量,例如性别。這些變量我們一般無法直接放到模型中去訓練模型。是以在使用之前,我們往往會對此類變量進行處理。一般是對離散變量進行one-hot編碼。下面具體介紹通過python對離散變量進行one-hot的方法。
注意:這裡提供兩種啞編碼的實作方法,pandas和sklearn。它們最大的差別是,pandas預設隻處理字元串類别變量,sklearn預設隻處理數值型類别變量(需要先 LabelEncoder )
① pd.get_dummies(prefix=)
pandas的get_dummies()可以直接對變量進行one-hot編碼,其中prefix是為one-hot編碼後的變量進行命名。
②LabelEncoder和OneHotEncoder
我們也可以通過sklearn的子產品實作對離散變量的one-hot編碼,其中LabelEncoder是将離散變量替換為數字,
OneHotEncoder則實作對替換為數字的離散變量進行one-hot編碼。
注:get_dummies()可以直接對字元型變量進行one-hot編碼,但OneHotEncoder不能直接對字元型變量編碼,是以我們需要先将字元型變量轉換為數值型變量。這就是為什麼在OneHotEncoder之前需要LabelEncoder的原因。
下面我們通過執行個體來介紹這兩種方法的具體使用:
①資料的導入
import pandas as pd
import os
os.getcwd()
os.chdir('E:\study\kaggle\Titanic')
from sklearn.preprocessing import OneHotEncoder
from sklearn.preprocessing import LabelEncoder
data = pd.read_csv('train.csv')
②資料熟悉
data['Sex'].value_counts()
Out[38]:
male 577
female 314
Name: Sex, dtype: int64 #可以看到,變量Sex為字元型變量,取值有male和female兩種
③get_dummies
Sex_ohe_1 = pd.get_dummies(data['Sex'])
Sex_ohe_1.head()
Out[40]:
female male
0 0 1
1 1 0
2 1 0
3 1 0
4 0 1
④OneHotEncoder
Sex_ohe_2 = OneHotEncoder(sparse=False).fit_transform(data['Sex'].reshape((-1,1)))
ValueError: could not convert string to float: male
可以看到OneHotEncoder無法直接對字元型變量進行編碼,需要通過OneHotEncoder将字元型變量轉換為數值型變量。
le_sex=LabelEncoder().fit(data['Sex'])
Sex_label=le_sex.transform(data['Sex'])
Sex_label= LabelEncoder().fit_transform(data['Sex']) #fit_transform等價于fit和transform兩個函數結合
ohe_sex=OneHotEncoder(sparse=False).fit(Sex_label.reshape(-1,1))
Sex_ohe=ohe_sex.transform(Sex_label.reshape(-1,1))
Sex_ohe_3 = OneHotEncoder(sparse=False).fit_transform(Sex_label.reshape((-1,1)))
注:get_dummies傳回的為資料框,OneHotEncoder傳回的為數組。