机器学习——K近邻案例——鸢尾花分类

心已赠人 2023-09-30 10:37 21阅读 0赞

## **实验 K近邻** ##

#### 1 实验目的 ####

（1）掌握特征缩放的语法。

（2）掌握K近邻模型的语法。

（3）掌握csv文件的读操作。

（4）理解混淆矩阵及准确率、召回率和F1分数的计算。

#### 2 实验内容案例一：鸢尾花分类 ####

--------------------

1、首先导入必要的库

> \#数学函数库
> 
> import numpy as npimport
> 
> \#数据可视化库
> 
> import matplotlib.pyplot as plt
> 
> \#读写数据文件
> 
> import pandas as pd

2、接着装载数据

> url=r"iris.csv"
> 
> \# 给数据分类加标签名
> 
> names=\['sepal-length','sepal-width','petal-length','petal-width','Class'\]
> 
> \#读出csv文件并把数据保存到文件中
> 
> dataset=pd.read\_csv(url,names=names)
> 
> \#我们查看一下数据，默认查看前五行 \#参数为查看的行数
> 
> dataset.head()

![watermark,type\_d3F5LXplbmhlaQ,shadow\_50,text\_Q1NETiBA5ZCb6I6r56yR5ZOm,size\_10,color\_FFFFFF,t\_70,g\_se,x\_16][watermark_type_d3F5LXplbmhlaQ_shadow_50_text_Q1NETiBA5ZCb6I6r56yR5ZOm_size_10_color_FFFFFF_t_70_g_se_x_16]

4、把数据集分解成属性（X）和标签（Y），把数据集划分%80成训练集和%20测试集

> \#把数据集分解成属性（X）和标签（Y）
> 
> X=dataset.iloc\[:,:-1\].values
> 
> y=dataset.iloc\[:,4\].values
> 
> \#数据集划分%80成训练集和%20测试集
> 
> from sklearn.model\_selection import train\_test\_split
> 
> X\_train,X\_test,y\_train,y\_test=train\_test\_split(X,y,test\_size=0.20)

5、原来的数据的取值范围变化大，我们要对数据进行缩放。

规范化

> from sklearn.preprocessing import StandardScaler
> 
> scaler=StandardScaler()
> 
> scaler.fit(X\_train)
> 
> X\_train=scaler.transform(X\_train)
> 
> X\_test=scaler.transform(X\_test)

6、对模型进行训练

> from sklearn.neighbors import KNeighborsClassifier
> 
> classifier=KNeighborsClassifier(n\_neighbors=5)
> 
> classifier.fit(X\_train,y\_train)

7、在测试集上预测

> y\_pred=classifier.predict(X\_test)

8、对测试集上预测的结果，进行评估，判断模型的优劣性，可以使用**混淆矩阵，准确率、召回率和F1评分**等指标

> from sklearn.metrics import classification\_report,confusion\_matrix
> 
> print(confusion\_matrix(y\_test,y\_pred))
> 
> print(classification\_report(y\_test,y\_pred))

![watermark,type\_d3F5LXplbmhlaQ,shadow\_50,text\_Q1NETiBA5ZCb6I6r56yR5ZOm,size\_19,color\_FFFFFF,t\_70,g\_se,x\_16][watermark_type_d3F5LXplbmhlaQ_shadow_50_text_Q1NETiBA5ZCb6I6r56yR5ZOm_size_19_color_FFFFFF_t_70_g_se_x_16]

输出的混淆矩阵显示，只有一个样本分类错误，

9、选择一个怎样的参数K能够获取较好的分类效果呢，我们可以把K的各种可能取值及其对应的分类误差绘制在一张图上。

这里我们选择K的取值范围\[1，40\]

> error=\[\]
> 
> for i in range(1,40):
> 
> knn=KNeighborsClassifier(n\_neighbors=i) knn.fit(X\_train,y\_train) pred\_i=knn.predict(X\_test) error.append(np.mean(pred\_i !=y\_test))

10、计算了K=1～40的分类误差率以后，可以绘画出其图像

> plt.figure(figsize=(12,6))
> 
> plt.plot(range(1,40),error,color='red',linestyle='dashed',marker='o',markerfacecolor='blue',markersize=10)
> 
> plt.title('Error Rate K Value')
> 
> plt.xlabel('K Value')
> 
> plt.ylabel('Mean Error')

![watermark,type\_d3F5LXplbmhlaQ,shadow\_50,text\_Q1NETiBA5ZCb6I6r56yR5ZOm,size\_20,color\_FFFFFF,t\_70,g\_se,x\_16][watermark_type_d3F5LXplbmhlaQ_shadow_50_text_Q1NETiBA5ZCb6I6r56yR5ZOm_size_20_color_FFFFFF_t_70_g_se_x_16]

**结论分析：**

当K取值在\[6,25\]的时候，分类器的错误率最低。所以取\[6,25\]中的任何一个值，作为模型的K参数，都是可以的。

[watermark_type_d3F5LXplbmhlaQ_shadow_50_text_Q1NETiBA5ZCb6I6r56yR5ZOm_size_10_color_FFFFFF_t_70_g_se_x_16]: https://img-blog.csdnimg.cn/a008869a996f41468e56b3e89d85b973.jpg?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA5ZCb6I6r56yR5ZOm,size_10,color_FFFFFF,t_70,g_se,x_16
[watermark_type_d3F5LXplbmhlaQ_shadow_50_text_Q1NETiBA5ZCb6I6r56yR5ZOm_size_19_color_FFFFFF_t_70_g_se_x_16]: https://img-blog.csdnimg.cn/8e881cc6474e456fbb7048b2b57a9234.jpg?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA5ZCb6I6r56yR5ZOm,size_19,color_FFFFFF,t_70,g_se,x_16
[watermark_type_d3F5LXplbmhlaQ_shadow_50_text_Q1NETiBA5ZCb6I6r56yR5ZOm_size_20_color_FFFFFF_t_70_g_se_x_16]: https://img-blog.csdnimg.cn/43a393f6a8474ca7ba41a2dbe857495c.jpg?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA5ZCb6I6r56yR5ZOm,size_20,color_FFFFFF,t_70,g_se,x_16