python机器学习算法与数据降维分析详解
一、数据降维
机器学习中的维度就是特征的数量，降维即减少特征数量。降维方式有：特征选择、主成分分析。
1.特征选择
当出现以下情况时，可选择该方式降维：
①冗余：部分特征的相关度高，容易消耗计算性能
②噪声：部分特征对预测结果有影响
特征选择主要方法：过滤式（variancethreshold）、嵌入式（正则化、决策树）
过滤式：
sklearn特征选择api
sklearn.feature_selection.variancethreshold
注意：没有最好的方差选择，需要根据实际效果选择方差。
2.主成分分析（pca）
api：sklearn.decomposition
主成分分析会尽可能降低原数据的维数，损失少量信息。当特征数量达到上百的时候，就需要考虑主成分分析。可以削减回归分析或者聚类分析中特征的数量。
pca语法：
里面的n_components通常填0-1的小数，代表保留百分之多少的数据，比如0.95意思是保留95%的数据。通常在0.9-0.95之间
3.降维方法使用流程
例如：研究用户和购买物品类别的关系，数据有不同的表格存储，均为csv文件，但所需的两者“用户”和“购买物品类别”，存在于不同的表中。则可以按照以下流程进行：
1.观察各个表格的键，通过相同的键对表格进行合并，使用pandas.merge(表1,表2,键1,键2)方法，其中键1和键2相同。经过多次合并，最终将两个目标合并到一张表中。
2.通过交叉表pd.crosstab(合并后的表['用户'], 合并后的表['物品类别'])，建立一个以用户为行，以物品类别为列的数据表。
3.对表格进行数据的降维，可以使用pca(n_components=0.9)，保留90%的有效信息，输出降维后的数据。即可有效减少维度，并确保留存90%的有效信息。
二、机器学习开发流程
1.机器学习算法分类
数据类型：
离散型：区间内不可分，通常是在分类型问题中。
连续型：区间内可分，通常是在预测型问题中。
算法分类：
算法总体分为两类，监督学习和无监督学习。
①监督学习包含特征值+目标值，算法又分为两小类，分类算法和回归算法。
分类算法：k-近邻算法、贝叶斯分类、决策树与随机森林、逻辑回归、神经网络
回归算法：线性回归、岭回归
②无监督学习只有特征值，通常是聚类算法：k-means
2.机器学习开发流程
机器学习开发首先需要有数据，数据来源可能有以下几种：公司本身有数据、合作过来的数据、购买的数据。
具体开发流程如下：
①明确实际问题做什么：根据目标值数据类型，建立模型，划分应用种类。看看是分类问题还是预测问题。
②数据的基本处理：使用pandas处理数据，缺失值，合并表等等。
③特征工程：对数据特征进行处理（重要）。
④找到合适的算法去进行预测。
⑤模型的评估，判定效果→上线使用，以api形式提供；若模型评估没有合格：换算法、参数，特征工程
sklearn数据集的使用：
通常在使用前会对数据集进行划分，从数据中拿出约75%作为训练集、25%作为测试集。也可以0.8/0.2等。通常0.75/0.25是使用最多的。
sklearn数据集划分api：sklearn.model_selection.train_set_split
sklearn数据集api：
获取数据集返回的类型：
数据集进行分割：
用于分类的大数据集：
sklearn回归数据集：
三、转换器与估计器
1.转换器
在数据处理中用到的fit_tansform方法中，其实可以拆分为fit方法和transform方法。
fit_transform() = fit() + transform()
若直接使用fit_transform()，则是对输入的数据进行求平均值、标准差，并使用它们进行数据处理最终输出结果。
如果拆开的话：
fit()：输入数据，计算平均值，标准差等，不进行后续工作。
transform()：使用fit计算好的内容进行转换。
也就是说可以通过fit()方法，生成1个数据对应的标准，使用这个标准，对其他数据，通过transform方法进行转换。
2.估计器
估计器就是已经实现了的算法的api，可以直接调用，输入相关数据，对结果进行预测等。
估计器工作流程：
1.调用fit(x_train, y_train)，输入训练集
2.输入测试集的数据（x_test, y_test），调用不同接口可得不同结果
api①：y_predict = predict(x_test)，该接口可获得算法对y的预测值。
api②：score(x_test, y_test) ，该接口可获得预测的准确率。
以上就是python机器学习算法与数据降维分析详解的详细内容，更多关于python机器学习算法与数据降维的资料请关注其它相关文章！