1.3预处理与热图
程序员文章站
2022-06-26 20:00:49
在数据分析当中的东西还是很多的,我在这里只是启发式的介绍一下,了解到这方面的东西之后,使用的时候可以更快的找到解决办法,希望能对大家有所帮助。 这次,依然是使用的sklearn中的iris数据集,对其进行通过热图来展示。 预处理 sklearn.preprocessing是机器学习库中预处理的模块, ......
在数据分析当中的东西还是很多的,我在这里只是启发式的介绍一下,了解到这方面的东西之后,使用的时候可以更快的找到解决办法,希望能对大家有所帮助。
这次,依然是使用的sklearn中的iris数据集,对其进行通过热图来展示。
预处理
sklearn.preprocessing是机器学习库中预处理的模块,可以对数据进行标准化处理,正则化等等,根据需求来使用。在这里利用它的标准化方法对数据进行整理。其他的方法可以自行查询。
- standardization标准化:将特征数据的分布调整成标准正态分布,也叫高斯分布,也就是使得数据的均值为0,方差为1。
- 标准化的原因在于如果有些特征的方差过大,则会主导目标函数从而使参数估计器无法正确地去学习其他特征。
- 标准化的过程为两步:去均值的中心化(均值变为0);方差的规模化(方差变为1)。
- 在sklearn.preprocessing中提供了一个scale的方法,可以实现以上功能。
下面举个例子来看一下:
1 from sklearn import preprocessing 2 import numpy as np 3 4 # 创建一组特征数据,每一行表示一个样本,每一列表示一个特征 5 xx = np.array([[1., -1., 2.], 6 [2., 0., 0.], 7 [0., 1., -1.]]) 8 9 # 将每一列特征标准化为标准正太分布,注意,标准化是针对每一列而言的 10 xx_scale = preprocessing.scale(xx) 11 12 xx_scale
经过对每列数据进行标准化处理之后的结果是:
array([[ 0. , -1.22474487, 1.33630621], [ 1.22474487, 0. , -0.26726124], [-1.22474487, 1.22474487, -1.06904497]])
可以看到,里面的数据发生了变化,数值比较小,也许有人可以一眼看出来,看不出来也没有关系,python可以很方便的计算他们的一些统计量。
1 # 测试一下xx_scale每列的均值方差 2 print('均值:', xx_scale.mean(axis=0)) # axis=0指列,axis=1指行 3 print('方差:', xx_scale.std(axis=0))
上面已经介绍了标准化的是要将它转换成什么样,结果的确吻合,按列求均值和方差的结果为:
均值: [0. 0. 0.] 方差: [1. 1. 1.]
当然对于标准化其方差和均值也不是一定要一起进行,比如有时候仅仅希望利于其中一个方法,也是有办法的:
- with_mean,with_std.这两个都是布尔型的参数,默认情况下都是true,但也可以自定义成false.即不要均值中心化或者不要方差规模化为1.
热图
关于热图在这里只简单提一下,因为网上关于它的资料已经很多很详细了。
在热图中,数据以矩阵的形式存在,属性范围用颜色的渐变来表示,在这里,使用pcolor绘制热图。
小栗子
还是从导库开始,然后加载数据集,对数据进行处理,然后绘制图像,并对图像做一些标注装饰等等。我习惯在代码中做注释,如果有不明白的,可以留言,我会及时回复。
1 # 导入后续所需要的库 2 from sklearn.datasets import load_iris 3 from sklearn.preprocessing import scale 4 import numpy as np 5 import matplotlib.pyplot as plt 6 7 # 加载数据集 8 data = load_iris() 9 x = data['data'] 10 y = data['target'] 11 col_names = data['feature_names'] 12 13 # 数据预处理 14 # 根据平均值对数据进行缩放 15 x = scale(x, with_std=false) 16 x_ = x[1:26,] # 选取其中25组数据 17 y_labels = range(1, 26) 18 19 # 绘制热图 20 plt.close('all') 21 plt.figure(1) 22 fig, ax = plt.subplots() 23 ax.pcolor(x_, cmap=plt.cm.greens, edgecolors='k') 24 ax.set_xticks(np.arange(0, x_.shape[1])+0.5) # 设置横纵坐标 25 ax.set_yticks(np.arange(0, x_.shape[0])+0.5) 26 ax.xaxis.tick_top() # x轴提示显示在图形上方 27 ax.yaxis.tick_left() # y轴提示显示在图形的左侧 28 ax.set_xticklabels(col_names, minor=false, fontsize=10) # 传递标签数据 29 ax.set_yticklabels(y_labels, minor=false, fontsize=10) 30 plt.show()
那么绘制出的图像是什么样子的呢:
上面简单的几步就把这些数据绘制出直观的图像,当然,在真正使用的时候不会这么简单,还需要多扩充知识。