python人工智能——机器学习——分类算法-k近邻算法
程序员文章站
2024-03-15 11:13:23
...
分类算法-k近邻算法(KNN)
定义:如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别,则该样本也属于这个类别。
来源:KNN算法最早是由Cover和Hart提出的一种分类算法
K近邻算法需要做标准化处理
计算距离公式
两个样本的距离可以通过如下公式计算,又叫欧式距离
比如说,a(a1,a2,a3),b(b1,b2,b3)
sklearn k-近邻算法API
sklearn.neighbors.KNeighborsClassifier(n_neighbors=5,algorithm='auto')
n_neighbors:int,可选(默认= 5),k_neighbors查询默认使用的邻居数
algorithm:{‘auto’,‘ball_tree’,‘kd_tree’,‘brute’},可选用于计算最近邻居的算法:
‘ball_tree’将会使用BallTree,‘kd_tree’将使用 KDTree。
‘auto’将尝试根据传递给fit方法的值来决定最合适的算法。 (不同实现方式影响效率)
k-近邻算法优缺点
优点:
简单,易于理解,易于实现,无需估计参数,无需训练
缺点:
懒惰算法,对测试样本分类时的计算量大,内存开销大
必须指定K值,K值选择不当则分类精度不能保证
使用场景:小数据场景,几千~几万样本,具体场景具体业务
去测试
k-近邻算法实现
加快搜索速度——基于算法的改进KDTree,API接口里面有实现
上一篇: docker 容器之间文件共享
推荐阅读
-
Python人工智能经典算法之K-近邻算法
-
python人工智能——机器学习——分类算法-k近邻算法
-
人工智能 - K近邻分类算法的java实现
-
python基础教程:决策树剪枝算法的python实现方法详解本文实例讲述了决策树剪枝算法的python实现方法。分享给大家供大家参考,具体如下: 决策树是一种依托决策而建立起来的一种树。在机器学习中
-
python机器学习 | 决策树算法介绍及实现
-
Python机器学习 - 决策树 - (ID3算法、C4.5算法) - 代码实现
-
机器学习之决策树分类算法(ID3 and C4.5)
-
【机器学习】西瓜书_周志华,python实现基于信息熵进行划分选择的决策树算法
-
机器学习 k-近邻算法 5
-
机器学习 之k-近邻算法实战案例学习