Python3的决策树应用及遇到的问题解决

**

Python3的决策树应用及遇到的问题解决

**
根据列表训练集（用Excel存为.csv格式）
RID,age,income,student,credit_rating,Class_buys_computer
1,youth,high,no,fair,no
2,youth,high,no,excellent,no
3,middle_aged ,high,no,fair,yes
4,senior,medium,no,fair,yes
5,senior,low,yes,fair,yes
6,senior,low,yes,excellent,no
7,middle_aged ,low,yes,excellent,yes
8,youth,medium,no,fair,no
9,youth,low,yes,fair,yes
10,senior,medium,yes,fair,yes
11,youth,medium,yes,excellent,yes
12,middle_aged ,medium,no,excellent,yes
13,middle_aged ,high,yes,fair,yes
14,senior,medium,no,excellent,no

一、步骤：

1、将以上列表存为.csv格式文件，读取特征值列表和Class列表
2、将特征值列表和Class列表转换为（0，1）形式
3、运用决策树分类
4、使模型可视化
5、利用测试集进行预测测试

附源码：

from sklearn.feature_extraction import DictVectorizer
import csv
from sklearn import preprocessing
from sklearn import tree
from sklearn.externals.six import StringIO

#Read in the csv file put features in a list of dict and list of class label
allElectronicsData = open(r'C:\Users\wqs\Desktop\1.csv','rt') #路径前的'r'相当于转义
reader = csv.reader(allElectronicsData)     #按行读取
headers = next(reader)

print(headers)

featureList = [] #特征值列表
labelList = []   #最后一列（Class列表）

for row in reader:
    labelList.append(row[len(row) - 1])   #每一行Length固定为6，row[5]即最后一列值，遍历每一行取出最后一列值放入labelList
    rowDict = {}
#     print(labelList)
    for i in range(1,len(row) - 1):   #for i in range(1,5):1,2,3,4
#         print(row[i])
        rowDict[headers[i]] = row[i]  #将此行的每个特征值取出给表头的每个headers
#         print("rowdict:",rowDict)
    featureList.append(rowDict)
print(featureList)

#Vectorize features 将特征列表转化为字符型的dummy v
vec = DictVectorizer()   #实例化
dummyX = vec.fit_transform(featureList).toarray()

print("dummyX:",str(dummyX))
print(vec.get_feature_names())   

print("labelList:",labelList)

#vectorize class labels  将Class转化为dummyY
lb = preprocessing.LabelBinarizer() #实例化
dummyY = lb.fit_transform(labelList)
print("dummyY:",dummyY)

#using decision tree for classification(运用决策树分类)
clf = tree.DecisionTreeClassifier(criterion = 'entropy')
clf.fit(dummyX,dummyY)
print("clf:",str(clf))

#Visulize model 使模型可视化
with open("allElectronicInformationGainOri.dot", 'w') as f:
    f = tree.export_graphviz(clf, feature_names=vec.get_feature_names(), out_file=f)

#测试集
# predict a new row
oneRowX = dummyX[0, :]
print("oneRowX: " + str(oneRowX))

newRowX = oneRowX
newRowX[0] = 1
newRowX[2] = 0
print("newRowX: " + str(newRowX))

predictedY = clf.predict([newRowX])
print("predictedY: " + str(predictedY))

二、遇到的问题及解决办法

1、打开.csv文件出错的情况及解决办法
如果出现下图情况，第一列数据乱码，那就是你存为.csv文件时候的选择错了

应该选择如图所示：

下图所示选择会出现乱码：

2、中文注释乱码情况：需要更改编码方式点击projiect->Properties选择如图所示编码方式即可：

3、如果出现这样的错误提示：AttributeError: ‘_csv.reader’ object has no attribute ‘next’

需要更改headers = reader.next() 为headers = next(reader)即可，这应该是Python3和Python2的区别，如下图所示：

4、模型可视化时.dot文件转化为graphviz注意的问题
在cmd命令中输入dot -Tpdf iris.dot -o output.pdf
(1) 注意iris.dot为你的.dot文件所在路径
（2）输出文件路径为cmd命令行前面的路径

5、测试集预测出现的问题：
array=[ 1. 0. 0. 0. 1. 1. 0. 0. 1. 0.].
Reshape your data either using array.reshape(-1, 1) if your data has a single feature or array.reshape(1, -1) if it contains a single sample.
如图所示：
解决办法：这是因为数据集newRowX数组矩阵需要加个中括号[ ]如图所示：

最后上一张运行成功截图：

2018年1月26日于斛兵塘