python k-近邻算法实例分享

简单说明

这个算法主要工作是测量不同特征值之间的距离，有个这个距离，就可以进行分类了。

简称knn。

已知：训练集，以及每个训练集的标签。

接下来：和训练集中的数据对比，计算最相似的k个距离。选择相似数据中最多的那个分类。作为新数据的分类。

python实例

# -*- coding: cp936 -*-

#win系统中应用cp936编码，linux中最好还是utf-8比较好。
from numpy import *#引入科学计算包
import operator #经典python函数库。运算符模块。

#创建数据集
def createdataset():
    group=array([[1.0,1.1],[1.0,1.0],[0,0],[0,0.1]])
    labels=['a','a','b','b']
    return group,labels

#算法核心
#inx：用于分类的输入向量。即将对其进行分类。
#dataset：训练样本集
#labels:标签向量
def classfy0(inx,dataset,labels,k):
    #距离计算
    datasetsize =dataset.shape[0]#得到数组的行数。即知道有几个训练数据
    diffmat     =tile(inx,(datasetsize,1))-dataset#tile:numpy中的函数。tile将原来的一个数组，扩充成了4个一样的数组。diffmat得到了目标与训练数值之间的差值。
    sqdiffmat   =diffmat**2#各个元素分别平方
    sqdistances =sqdiffmat.sum(axis=1)#对应列相乘，即得到了每一个距离的平方
    distances   =sqdistances**0.5#开方，得到距离。
    sorteddistindicies=distances.argsort()#升序排列
    #选择距离最小的k个点。
    classcount={}
    for i in range(k):
        voteilabel=labels[sorteddistindicies[i]]
        classcount[voteilabel]=classcount.get(voteilabel,0)+1
    #排序
    sortedclasscount=sorted(classcount.iteritems(),key=operator.itemgetter(1),reverse=true)
    return sortedclasscount[0][0]

意外收获

把自己写的模块加入到python默认就有的搜索路径：在python/lib/-packages目录下建立一个 xxx.pth的文件，写入自己写的模块所在的路径即可