天天看点

几种特征选择的方法汇总:RFE,卡方检验,方差分析,互信息法,以及两种嵌入的方法

最近处理数据的时候尝试了一下特征选择,在此记录一下常用的方法,以便日后查阅:

先贴一下原始数据:

几种特征选择的方法汇总:RFE,卡方检验,方差分析,互信息法,以及两种嵌入的方法

1.RFE特征选择

几种特征选择的方法汇总:RFE,卡方检验,方差分析,互信息法,以及两种嵌入的方法

2.方差分析

几种特征选择的方法汇总:RFE,卡方检验,方差分析,互信息法,以及两种嵌入的方法

3.互信息法

几种特征选择的方法汇总:RFE,卡方检验,方差分析,互信息法,以及两种嵌入的方法

4 卡方检验

几种特征选择的方法汇总:RFE,卡方检验,方差分析,互信息法,以及两种嵌入的方法

5.1嵌入的方法:

基于L1范数:使用带惩罚项的基模型,除了筛选出特征外,同时也进行了降维

几种特征选择的方法汇总:RFE,卡方检验,方差分析,互信息法,以及两种嵌入的方法

5.2嵌入的方法:

基于树模型的特征选择:树模型中GBDT也可用来作为基模型进行特征选择,使用feature_selection库的SelectFromModel类结合GBDT模型

几种特征选择的方法汇总:RFE,卡方检验,方差分析,互信息法,以及两种嵌入的方法

继续阅读