天天看點

python對離散變量的one-hot編碼

      我們在進行模組化時,變量中經常會有一些變量為離散型變量,例如性别。這些變量我們一般無法直接放到模型中去訓練模型。是以在使用之前,我們往往會對此類變量進行處理。一般是對離散變量進行one-hot編碼。下面具體介紹通過python對離散變量進行one-hot的方法。

注意:這裡提供兩種啞編碼的實作方法,pandas和sklearn。它們最大的差別是,pandas預設隻處理字元串類别變量,sklearn預設隻處理數值型類别變量(需要先 LabelEncoder )

① pd.get_dummies(prefix=)

pandas的get_dummies()可以直接對變量進行one-hot編碼,其中prefix是為one-hot編碼後的變量進行命名。

②LabelEncoder和OneHotEncoder

我們也可以通過sklearn的子產品實作對離散變量的one-hot編碼,其中LabelEncoder是将離散變量替換為數字,

OneHotEncoder則實作對替換為數字的離散變量進行one-hot編碼。

注:get_dummies()可以直接對字元型變量進行one-hot編碼,但OneHotEncoder不能直接對字元型變量編碼,是以我們需要先将字元型變量轉換為數值型變量。這就是為什麼在OneHotEncoder之前需要LabelEncoder的原因。

下面我們通過執行個體來介紹這兩種方法的具體使用:

①資料的導入

import pandas as pd
import os
os.getcwd() 
os.chdir('E:\study\kaggle\Titanic')
from sklearn.preprocessing import OneHotEncoder  
from sklearn.preprocessing import LabelEncoder  
data = pd.read_csv('train.csv')
           

②資料熟悉

data['Sex'].value_counts()
Out[38]: 
male      577
female    314
Name: Sex, dtype: int64  #可以看到,變量Sex為字元型變量,取值有male和female兩種
           

③get_dummies

Sex_ohe_1 = pd.get_dummies(data['Sex'])
Sex_ohe_1.head()
Out[40]: 
   female  male
0       0     1
1       1     0
2       1     0
3       1     0
4       0     1
           

④OneHotEncoder

Sex_ohe_2 = OneHotEncoder(sparse=False).fit_transform(data['Sex'].reshape((-1,1))) 

ValueError: could not convert string to float: male  
           

可以看到OneHotEncoder無法直接對字元型變量進行編碼,需要通過OneHotEncoder将字元型變量轉換為數值型變量。

le_sex=LabelEncoder().fit(data['Sex'])  
Sex_label=le_sex.transform(data['Sex'])  
Sex_label= LabelEncoder().fit_transform(data['Sex']) #fit_transform等價于fit和transform兩個函數結合
ohe_sex=OneHotEncoder(sparse=False).fit(Sex_label.reshape(-1,1))  
Sex_ohe=ohe_sex.transform(Sex_label.reshape(-1,1)) 
Sex_ohe_3 = OneHotEncoder(sparse=False).fit_transform(Sex_label.reshape((-1,1)))
           

注:get_dummies傳回的為資料框,OneHotEncoder傳回的為數組。