【机器学习】【特征选择】3.相关性过滤

相关性过滤

方差挑选完毕之后，我们就要考虑下一个问题：相关性了

希望选出与标签相关且有意义的特征

三种常用的方法来评判特征与标签之间的相关性：卡方，F检验，互信息。

卡方过滤

专门针对离散型标签（即分类问题）的相关性过滤

卡方检验类feature_selection.chi2计算每个非负特征和标签之间的卡方统计量，并依照卡方统计量由高到低为特征排名

可以标准化后再做

再结合feature_selection.SelectKBest 这个可以输入**”评分标准“来选出前K个分数最高**的特征的类，

我们可以借此除去最可能独立于标签，与分类目的无关的特征。

如果卡方检验检测到某个特征中所有的值都相同，会提示我们使用方差先进行方差过滤

from sklearn.ensemble import RandomForestClassifier as RFC
from sklearn.model_selection import cross_val_score
from sklearn.feature_selection import SelectKBest
from sklearn.feature_selection import chi2
#假设在这里我一直我需要300个特征
X_fschi = SelectKBest(chi2, k=300).fit_transform(X_fsvar, y)
#SelectKBest(所依赖的统计量, k=选择前K个特征数量)
#X_fsvar中位数方差过滤过的了的数据
X_fschi.shape

cross_val_score(RFC(n_estimators=10,random_state=0),X_fschi,y,cv=5).mean()
#交叉验证后求均值
—————————————————————————————————————————————————————————————————————————————————————————————————————
0.933309866
#比方差过滤要坏

模型的效果降低了，这说明我们在设定k=300的时候删除了与模型相关且有效的特征，K值设置得太小

如果模型的表现提升，则说明我们的相关性过滤是有效的，是过滤掉了模型的噪音的

更好的选择k的方 法：看p值选择k

卡方检验的本质是推测两组数据之间的差异，其检验的原假设是”两组数据是相互独立的”
卡方检验返回卡方值和 P值两个统计量，其中卡方值很难界定有效的范围，而p值一般使用0.01或0.05作为显著性水平

从特征工程的角度，我们希望选取卡方值很大，p值小于0.05的特征，即和标签是相关联的特征。

而调用 SelectKBest之前，我们可以直接从chi2实例化后的模型中获得各个特征所对应的卡方值和P值。

chivalue, pvalues_chi = chi2(X_fsvar,y)
#chi2实例化后的模型中获得各个特征所对应的卡方值和P值。
chivalue
pvalues_chi
#k取多少？我们想要消除所有p值大于设定值，比如0.05或0.01的特征：
k = chivalue.shape[0] - (pvalues_chi > 0.05).sum()
#特征总个数-大于设定P值   k = (pvalues_chi <= 0.05).sum()应该也可以

#X_fschi = SelectKBest(chi2, k=填写具体的k).fit_transform(X_fsvar, y)
#cross_val_score(RFC(n_estimators=10,random_state=0),X_fschi,y,cv=5).mean()

F检验

F检验，又称ANOVA，方差齐性检验，是用来捕捉每个特征与标签之间的线性关系的过滤方法

它即可以做回归也可以做分类。

包含**feature_selection.f_classif（F检验分类）和feature_selection.f_regression（F检验回归）**两个类

中F检验分类用于标签是离散型变量的数据，而F检验回归用于标签是连续型变量的数据。

两个类需要和类SelectKBest连用

F检验在数据服从正态分布时效果会非常稳定

F检验的本质是寻找两组数据之间的线性关系，其原假设是”数据不存在显著的线性关系“

我们希望选取p值小于0.05或0.01的特征，这些特征与标签时显著线性相关的，

而p值大于 0.05或0.01的特征则被我们认为是和标签没有显著线性关系的特征，应该被删除

from sklearn.feature_selection import f_classif
F, pvalues_f = f_classif(X_fsvar,y)
F#和卡方值类似
pvalues_f

k = F.shape[0] - (pvalues_f > 0.05).sum()
k


#X_fsF = SelectKBest(f_classif, k=填写具体的k).fit_transform(X_fsvar, y)
#cross_val_score(RFC(n_estimators=10,random_state=0),X_fsF,y,cv=5).mean()

互信息法

互信息法是用来捕捉每个特征与标签之间的任意关系（包括线性和非线性关系）的过滤方法

可以做回归也可以做分类，

并且包含两个类**feature_selection.mutual_info_classif（互信息分类）**和 feature_selection.mutual_info_regression（互信息回归）。

它返回“每个特征与目标之间的互信息量的估计”，这个估计量在**[0,1]之间** 取值，为0则表示两个变量独立，为1则表示两个变量完全相关。

from sklearn.feature_selection import mutual_info_classif as MIC
result = MIC(X_fsvar,y)
k = result.shape[0] - sum(result <= 0)

#X_fsmic = SelectKBest(MIC, k=填写具体的k).fit_transform(X_fsvar, y)
#cross_val_score(RFC(n_estimators=10,random_state=0),X_fsmic,y,cv=5).mean()

统计量的方法会更加高效

方差——>互信息法

from sklearn.feature_selection import mutual_info_classif as MIC
result = MIC(X_fsvar,y)
k = result.shape[0] - sum(result <= 0)

#X_fsmic = SelectKBest(MIC, k=填写具体的k).fit_transform(X_fsvar, y)
#cross_val_score(RFC(n_estimators=10,random_state=0),X_fsmic,y,cv=5).mean()

统计量的方法会更加高效

方差——>互信息法