技术标签: 算法 K近邻 人工智能 KNN # 图解机器学习算法 ◉ 从入门到精通
K近邻算法(k-nearest neighbors,KNN,有些地方也译作「K近邻算法」)是一种很基本朴实的机器学习方法。
KNN在我们日常生活中也有类似的思想应用,比如,我们判断一个人的人品,往往只需要观察他最密切的几个人的人品好坏就能得到结果了。这就是KNN的思想应用,KNN方法既可以做分类,也可以做回归。在本篇内容中,我们来给大家展开讲解KNN相关的知识原理。
(本篇KNN部分内容涉及到机器学习基础知识,没有先序知识储备的宝宝可以查看ShowMeAI的文章 图解机器学习 | 机器学习基础知识。
分类问题是机器学习非常重要的一个组成部分,它的目标是根据已知样本的某些特征,判断一个样本属于哪个类别。分类问题可以细分如下:
二分类问题:表示分类任务中有两个类别新的样本属于哪种已知的样本类。
多类分类(Multiclass classification)问题:表示分类任务中有多类别。
多标签分类(Multilabel classification)问题:给每个样本一系列的目标标签。
从算法的角度解决一个分类问题,我们的训练数据会被映射成n维空间的样本点(这里的n就是特征维度),我们需要做的事情是对n维样本空间的点进行类别区分,某些点会归属到某个类别。
下图所示的是二维平面中的两类样本点,我们的模型(分类器)在学习一种区分不同类别的方法,比如这里是使用一条直线去对2类不同的样本点进行切分。
常见的分类问题应用场景很多,我们选择几个进行举例说明:
垃圾邮件识别:可以作为二分类问题,将邮件分为你「垃圾邮件」或者「正常邮件」。
图像内容识别:因为图像的内容种类不止一个,图像内容可能是猫、狗、人等等,因此是多类分类问题。
文本情感分析:既可以作为二分类问题,将情感分为褒贬两种,还可以作为多类分类问题,将情感种类扩展,比如分为:十分消极、消极、积极、十分积极等。
在模式识别领域中,K近邻算法(KNN算法,又译K-最近邻算法)是一种用于分类和回归的非参数统计方法。在这两种情况下,输入包含特征空间中的K个最接近的训练样本。
在KNN分类中,输出是一个分类族群。一个对象的分类是由其邻居的「多数表决」确定的,K个最近邻居(K为正整数,通常较小)中最常见的分类决定了赋予该对象的类别。
在KNN回归中,输出是该对象的属性值。该值是其K个最近邻居的值的平均值。
K近邻居法采用向量空间模型来分类,概念为相同类别的案例,彼此的相似度高。而可以借由计算与已知类别案例之相似度,来评估未知类别案例可能的分类。
KNN是一种基于实例的学习,或者是局部近似和将所有计算推迟到分类之后的惰性学习。K-近邻算法是所有的机器学习算法中最简单的之一。
想一想:下图中只有三种豆,有三个豆的种类未知,如何判定他们的种类?
1968年,Cover和Hart提出了最初的近邻法,思路是——未知的豆离哪种豆最近,就认为未知豆和该豆是同一种类。
由此,引出最近邻算法的定义:为了判定未知样本的类别,以全部训练样本作为代表点计算未知样本与所有训练样本的距离,并以最近邻者的类别作为决策未知样本类别的唯一依据。
最近邻算法的缺陷是对噪声数据过于敏感。从图中可以得到,一个圈起来的蓝点和两个圈起来的红点到绿点的距离是相等的,根据最近邻算法,该点的形状无法判断。
为了解决这个问题,我们可以把位置样本周边的多个最近样本计算在内,扩大参与决策的样本量,以避免个别数据直接决定决策结果。
引进K-近邻算法——选择未知样本一定范围内确定个数的K个样本,该K个样本大多数属于某一类型,则未知样本判定为该类型。K-近邻算法是最近邻算法的一个延伸。
根据K近邻算法,离绿点最近的三个点中有两个是红点,一个是蓝点,红点的样本数量多于蓝点的样本数量,因此绿点的类别被判定为红点。
下面的内容首先为大家梳理下K近邻算法的步骤,之后通过示例为大家展示K近邻算法的计算流程。
存在一个样本数据集合,也称作训练样本集,并且样本集中每个数据都存在标签,即我们知道样本集中每个数据与所属分类的对应关系。
输入没有标签的新数据后,将新数据的每个特征与样本集中数据对应的特征进行比较,然后算法提取样本集中特征最相似数据(最近邻)的分类标签。
一般来说,只选择样本数据集中前N个最相似的数据。K一般不大于20,最后,选择K个中出现次数最多的分类,作为新数据的分类。
如何选择一个最佳的K值取决于数据。一般情况下,在分类时较大的K值能够减小噪声的影响, 但会使类别之间的界限变得模糊。一个较好的K值能通过各种启发式技术(见超参数优化)来获取。
噪声和非相关性特征的存在,或特征尺度与它们的重要性不一致会使K近邻算法的准确性严重降低。对于选取和缩放特征来改善分类已经做了很多研究。一个普遍的做法是利用进化算法优化功能扩展,还有一种较普遍的方法是利用训练样本的互信息进行选择特征。
在二元(两类)分类问题中,选取K为奇数有助于避免两个分类平票的情形。在此问题下,选取最佳经验K值的方法是自助法。
说明:KNN没有显示的训练过程,它是「懒惰学习」的代表,它在训练阶段只是把数据保存下来,训练时间开销为0,等收到测试样本后进行处理。
举例:以电影分类作为例子,电影题材可分为爱情片,动作片等。那么爱情片有哪些特征?动作片有哪些特征呢?也就是说给定一部电影,怎么进行分类?
这里假定将电影分为爱情片和动作片两类,如果一部电影中接吻镜头很多,打斗镜头较少,显然是属于爱情片,反之为动作片。
有人曾根据电影中打斗动作和接吻动作数量进行评估,数据如图。给定一部电影数据(18,90)打斗镜头18个,接吻镜头90个,如何知道它是什么类型的呢?
现在我们按照距离的递增顺序排序,可以找到k个距离最近的电影。
假如K=3,那么来看排序的前3个电影的类别,都是爱情片,根据KNN的投票机制,我们判定这部电影属于爱情片。(这里的K是超参数,可以调整,如果取K=4,那可能投票的4部电影分别是 爱情片、爱情片、爱情片、动作片,但本例中判定结果依旧为爱情片)
不同类别的样本点,分布在空间的不同区域。K近邻是基于空间距离较近的样本类别来进行分类,本质上是对于特征空间的划分。
优点:精度高、对异常值不敏感、无数据输入假定。
缺点:计算复杂度高、空间复杂度高。
适用数据范围:数值型和标称型。
近邻算法能用一种有效的方式隐含的计算决策边界。另外,它也可以显式的计算决策边界,以及有效率的这样做计算,使得计算复杂度是边界复杂度的函数。K近邻算法依赖于空间中相近的点做类别判断,判断距离远近的度量标准非常重要。
距离的度量标准,对很多算法来说都是核心要素(比如无监督学习的 聚类算法 也很大程度依赖距离度量),也对其结果有很大的影响。
Lp距离(又称闵可夫斯基距离,Minkowski Distance)不是一种距离,而是一组距离的定义。
参数p=1时为曼哈顿距离(又称L1距离或程式区块距离),表示两个点在标准坐标系上的绝对轴距之和。
参数p=2时为欧氏距离(又称L2距离或欧几里得度量),是直线距离常见的两点之间或多点之间的距离表示法。
参数p→∞时,就是切比雪夫距离(各坐标数值差的最大值)。
对于KNN算法而言,K的大小取值也至关重要,如果选择较小的K值,意味着整体模型变得复杂(模型容易发生过拟合),模型学习的近似误差(approximation error)会减小,但估计误差(estimation error)会增大。
如果选择较大的K值,就意味着整体的模型变得简单,减少学习的估计误差,但缺点是学习的近似误差会增大。
在实际的应用中,一般采用一个比较小的K值。并采用交叉验证的方法,选取一个最优的K值。
观察下面的例子,我们看到,对于样本X,通过KNN算法,我们显然可以得到X应属于红色类别。但对于样本Y,KNN算法判定的结果是Y应属于蓝色类别,然而从距离上看Y和红色的批次样本点更接近。因此,原始的KNN算法只考虑近邻不同类别的样本数量,而忽略掉了距离。
除了上述缺点,KNN还存在如下缺点:
样本库容量依赖性较强对KNN算法在实际应用中的限制较大:有不少类别无法提供足够的训练样本,使得KNN算法所需要的相对均匀的特征空间条件无法得到满足,使得识别的误差较大。
K值的确定:KNN算法必须指定K值,K值选择不当则分类精度不能保证。
加快KNN算法的分类速度。
浓缩训练样本当训练样本集中样本数量较大时,为了减小计算开销,可以对训练样本集进行编辑处理,即从原始训练样本集中选择最优的参考子集进行K近邻寻找,从而减少训练样本的存储量和提高计算效率。
加快K个最近邻的搜索速度这类方法是通过快速搜索算法,在较短时间内找到待分类样本的K个最近邻。
对训练样本库的维护。
假如一套房子打算出租,但不知道市场价格,可以根据房子的规格(面积、房间数量、厕所数量、容纳人数等),在已有数据集中查找相似(K近邻)规格的房子价格,看别人的相同或相似户型租了多少钱。
我们本次用到的数据集是 rent_price
,大家可以通过 ShowMeAI 的百度网盘地址下载。
实战数据集下载(百度网盘):公众号『ShowMeAI研究中心』回复『实战』,或者点击 这里 获取本文 [40]图解机器学习 | KNN算法及其应用 『房屋出租价格预测数据集』
ShowMeAI官方GitHub:https://github.com/ShowMeAI-Hub
已知的数据集中,每个已出租住房都有房间数量、厕所数量、容纳人数等字段,并有对应出租价格。将预计出租房子数据与数据集中每条记录比较计算欧式距离,取出距离最小的5条记录,将其价格取平均值,可以将其看做预计出租房子的市场平均价格。
import pandas as pd
import numpy as np
from scipy.spatial import distance#用于计算欧式距离
from sklearn.preprocessing import StandardScaler#用于对数据进行标准化操作
from sklearn.neighbors import KNeighborsRegressor#KNN算法
from sklearn.metrics import mean_squared_error#用于计算均方根误差
导入数据并提取目标字段,我们看一下dc_listings
数据集。
#导入数据并提取目标字段
path = r'rent_price.csv'
file = open(path, encoding = 'gb18030', errors = 'ignore')
dc_listings = pd.read_csv(file)
features = ['accommodates','bedrooms','bathrooms','beds','price','minimum_nights','maximum_nights','number_of_reviews']
dc_listings = dc_listings[features]
注意 ①:数据集中非数值类型的字段需要转换,替换掉美元$符号和千分位逗号。
#数据初步清洗
our_acc_value = 3
dc_listings['distance'] = np.abs(dc_listings.accommodates - our_acc_value)
dc_listings = dc_listings.sample(frac=1, random_state=0)
dc_listings = dc_listings.sort_values('distance')
dc_listings['price'] = dc_listings.price.str.replace("\$|,", "").astype(float)
dc_listings = dc_listings.dropna()
注意 ②:理想情况下,数据集中每个字段取值范围都相同,但实际上这是几乎不可能的,如果计算时直接用原数数据计算,则会造成较大训练误差,所以需要对各列数据进行标准化或归一化操作,尽量减少不必要的训练误差。
#数据标准化
dc_listings[features] = StandardScaler().fit_transform(dc_listings[features])
normalized_listings = dc_listings
注意 ③:最好不要将所有数据全部拿来测试,需要分出训练集和测试集具体划分比例按数据集确定。
#取得训练集和测试集
norm_train_df = normalized_listings[:2792]
norm_test_df = normalized_listings[2792:]
#scipy包distance模块计算欧式距离
first_listings = normalized_listings.iloc[0][['accommodates', 'bathrooms']]
fifth_listings = normalized_listings.iloc[20][['accommodates', 'bathrooms']]
#用python方法做多变量KNN模型
def predict_price_multivariate(new_listing_value, feature_columns):
temp_df = norm_train_df
#distance.cdist计算两个集合的距离
temp_df['distance'] = distance.cdist(temp_df[feature_columns], [new_listing_value[feature_columns]])
temp_df = temp_df.sort_values('distance')#temp_df按distance排序
knn_5 = temp_df.price.iloc[:5]
predicted_price = knn_5.mean()
return predicted_price
cols = ['accommodates', 'bathrooms']
norm_test_df['predicted_price'] = norm_test_df[cols].apply(predict_price_multivariate, feature_columns=cols, axis=1)
norm_test_df['squared_error'] = (norm_test_df['predicted_price'] - norm_test_df['price']) ** 2
mse = norm_test_df['squared_error'].mean()
rmse = mse ** (1/2)
print(rmse)
#利用sklearn完成KNN
col = ['accommodates', 'bedrooms']
knn = KNeighborsRegressor()
#将自变量和因变量放入模型训练,并用测试数据测试
knn.fit(norm_train_df[cols], norm_train_df['price'])
two_features_predictions = knn.predict(norm_test_df[cols])
#计算预测值与实际值的均方根误差
two_features_mse = mean_squared_error(norm_test_df['price'], two_features_predictions)
two_features_rmse = two_features_mse ** (1/2)
print(two_features_rmse)
输出为:
1.4667825805653032
1.5356457412450537
文章浏览阅读6.1k次。MAME打开ROM红屏报错的解决办法_mame bios and devices sets
文章浏览阅读1.2k次。什么是CAP理论?CAP原则又称CAP定理,指的是在一个分布式系统中,一致性(Consistency)、可用性(Availability)、分区容错性(Partition tolerance)。CAP 原则指的是,这三个要素最多只能同时实现两点,不可能三者兼顾CAP分别是什么?一致性(Consistency) (所有节点在同一时间具有相同的数据)可用性(Availability) (保证每个请求不管成功或者失败都有响应)分区容错性(Partition tolerance) (系统中任意信息的丢失或_cp ap
文章浏览阅读195次。/** pwned.c - linux 2.4 and 2.6 sys_uselib local root exploit. PRIVATE.* it's not the best one, the ldt approach is definitively better.* discovered may 2004. no longer private beca..._linux 2.4 挖洞
文章浏览阅读9.5k次,点赞2次,收藏4次。在实际工作中,字符串和其它数据类型的转换是很常见的,库函数有很多,比如 atoi , strtol , sscanf 等,这些函数网上有很多资料,我经常用到的就是十六进制的数值以字符串的形式传输,然后又要解析,这里记录一下我这边的做法:将2个字节的十六进制的字符串转成short int 2个字节的整形数据:_c++ 16进制转字符串
文章浏览阅读4.8k次。对于那些想要把数据快速摄取到Hadoop中的企业来讲,Kafka是一个很好的选择。Kafka是什么?Kafka是一个分布式、可伸缩、可信赖的消息传递系统,利用发布-订阅模型来集成应用程序/数据流。同时,Kafka还是Hadoop技术堆栈中的关键组件,能够很好地支持实时数据分析或者货币化的物联网数据。
文章浏览阅读216次。package com.goodfamily.gps.polling_and_maintenance.util;import java.util.Set;import android.annotation.SuppressLint;import android.app.Activity;import android.content.Context;import andr_sharedpreferencesutils 爆红
文章浏览阅读1.2w次。本章使用c3p0做演示 方法一,编辑试事务开启事务核心类 DataSourceTransactionManager,不管是哪一种方式都需要创建该对象,该方式需要记住的类 TransactionTemplate, 其实很好记,使用spring操作数据库创建jdbcTemplate ,使用spring开启事务创建TransactionTemplatepublic class Transact_spring开启注解的三种方式
文章浏览阅读174次。写在前面很多小伙伴留言说让我写一些工作过程中的真实案例,写些啥呢?想来想去,写一篇我在以前公司从零开始到用户超千万的数据库架构升级演变的过程吧。本文记录了我之前初到一家创业公司,从零开始到用户超千万,系统压力暴增的情况下是如何一步步优化MySQL数据库的,以及数据库架构升级的演变过程。升级的过程极具技术挑战性,也从中收获不少。希望能够为小伙伴们带来实质性的帮助。这些面试题你都会了吗?(精选97道Java核心面试题)常量池有哪些,数据结构,自己设计一个常量池String为啥设计为final,好_前端校招面试真题解析大全
文章浏览阅读380次。mac tomcat的安装_tomcat苹果与windows有区别吗
文章浏览阅读137次。作者:Kandyhttps://www.jianshu.com/p/1dae6e1680ff一、什么是 CDNCDN的全称是(Content Delivery Network),即内..._前端面试 cdn加速原理,没有缓存到哪里拿
文章浏览阅读334次。生活在熙熙攘攘中从未变得安静,有时候感觉自己就像一辆行走着的汽车,向往着速度,应和着节奏。
文章浏览阅读500次。2021SC@SCSDU对于SQL的配置public abstract class AbstractSQLConfig implements SQLConfig { private static final String TAG = "AbstractSQLConfig"; public static String DEFAULT_DATABASE = DATABASE_MYSQL; public static String DEFAULT_SCHEMA = "sys";..._abstractsql sql.or()