聚类算法：KMEANS原理介绍

分手后的思念是犯贱 2022-05-12 13:12 319阅读 0赞

**聚类****算法：****K****MEANS****原理****介绍**

*  **聚类介绍**

**   聚类分析是一个无监督学习过程，一般是用来对数据对象按照其特征属性进行分组，经常被应用在客户分群、欺诈检测、图像分析等领域。K-means应该是最有名并且最经常使用的聚类算法。**

*  **算法介绍**

KMeans算法的基本思想是初始随机给定K个簇中心，按照最邻近原则把待分类样本点分到各个簇，然后按照平均法重新计算各个簇的质心，从而确定簇心，一直迭代，知道簇心的移动距离小于某个给定的值。

K-means 算法是一个迭代式的算法，其运算过程如下：

1.  选择k个点作为初始聚类中心。（k需要我们程序自己设置）
2.  计算其余所有点到聚类中心的距离，并把每个点划分到离它最近的聚类中心所在的聚类中。最常用的衡量距离的函数式欧几里得距离，叫做欧式距离。
3.  重新计算每个聚类中所有点的平均值，并将其作为新的聚类中心点。
4.  重复2，3步的过程，直至聚类中心不再发生变化，或者算法达到预定的迭代次数（程序自己设置），又或者聚类中心的改变小于预定设定的阀值。

举个例子介绍：

从上图中，我们可以看到，A，B，C，D，E是五个在图中点。而灰色的点是我们的种子点，也就是我们用来找点群的点。有两个种子点，所以K=2。

K-Means的算法如下：

1、随机在图中取K（这里K=2）个种子点。

2、然后对图中的所有点求到这K个种子点的距离，假如点Pi离种子点Si最近，那么Pi属于Si点群。（上图

中，我们可以看到A，B属于上面的种子点，C，D，E属于下面中部的种子点）

3、接下来，我们要移动种子点到属于他的“点群”的中心。（见图上的第三步）

4、然后重复第2）和第3）步，直到，种子点没有移动（我们可以看到图中的第四步上面的种子点聚合了A，

B，C，下面的种子点聚合了D，E）。

*  **KMeans两个重要问题**

1.  选择K值

K 的选择是 K-means 算法的关键，Spark MLlib 在 KMeansModel 类里提供了 computeCost 方法，该方法通过计算所有数据点到其最近的中心点的平方和来评估聚类的效果。一般来说，同样的迭代次数和算法跑的次数，这个值越小代表聚类的效果越好。但是在实际情况下，我们还要考虑到聚类结果的可解释性，不能一味的选择使 computeCost 结果值最小的那个 K。

1.  初始聚类中心点的选择

对于初始化聚类中心点，我们可以在输入的数据集中随机地选择K个点作为中心点，但是随机选择初始中心点可能会造成聚类的结果和数据的实际分布相差很大。所以我们一般选择k-means++算法去初始化中心点。

k-means++算法选择初始中心点的基本思想就是：初始的聚类中心之间的相互距离要尽可能远。

1.  从输入的数据点集合中随机选择一个点作为第一个初始点。
2.  计算数据集中所有点与最新选择的中心点的距离D(x).
3.  选择下一个中心点，使得最大。
4.  重复2，3步过程，直到K个初始点选择完成。

发表评论取消回复

表情：

评论列表（有 0 条评论，319人围观）

还没有评论，来说两句吧...

相关阅读

相关【机器学习】Kmeans聚类算法

一、聚类简介 Clustering (聚类)是常见的unsupervised learning (无监督学习)方法，简单地说就是把相似的数据样本分到一组（簇），聚类的

绝地灬酷狼/ 2024年02月19日 10:00/ 0 赞/ 94 阅读

相关 kmeans聚类算法python实现

以下是使用Python实现k均值（k-means）聚类算法的示例代码： import numpy as np def k_means(data, k

淩亂°似流年/ 2024年02月19日 08:29/ 0 赞/ 30 阅读

相关 kmeans聚类算法python实例

KMeans 聚类算法是一种基于距离的聚类算法，用于将数据点分成若干组。在 Python 中，可以使用 scikit-learn 库中的 KMeans 函数来实现 KMeans

我就是我/ 2023年10月08日 20:33/ 0 赞/ 93 阅读

相关 KMeans聚类算法应用

KMeans聚类算法应用 1999年31个省份平均每人全年消费支出 import numpy as np from sklearn.cluster

心已赠人/ 2023年07月07日 08:12/ 0 赞/ 10 阅读

相关学习笔记：聚类算法Kmeans/K-均值算法

前记 Kmeans是最简单的聚类算法之一，但是运用十分广泛，最近看到别人找实习笔试时有考到Kmeans，故复习一下顺手整理成一篇笔记。Kmeans的目标是：把

川长思鸟来/ 2022年08月18日 03:18/ 0 赞/ 408 阅读

相关 kmeans聚类的实现

Kmeans算法流程从数据中随机抽取k个点作为初始聚类的中心，由这个中心代表各个聚类计算数据中所有的点到这k个点的距离，将点归到离其最近的聚类里调整聚类中

小咪咪/ 2022年08月09日 00:52/ 0 赞/ 282 阅读

相关 kNN与kMeans聚类算法的区别

[kNN与kMeans聚类算法的区别][kNN_kMeans] <table style="margin:0px; padding:0px; border-collaps

谁借莪１个温暖的怀抱￠/ 2022年06月12日 04:29/ 0 赞/ 276 阅读

相关 kmeans聚类算法及复杂度

kmeans是最简单的聚类算法之一，kmeans一般在数据分析前期使用，选取适当的k，将数据分类后，然后分类研究不同聚类下数据的特点。算法原理 1. 随机选取k个中

柔情只为你懂/ 2022年05月13日 22:28/ 0 赞/ 404 阅读

相关聚类算法：KMEANS原理介绍

聚类算法：KMEANS原理介绍聚类介绍聚类分析是一个无监督学习过程，一般是用来对数据对象按照其特征属性进行分组，经常被应用在客户分群、欺诈检测、图像分析等领

分手后的思念是犯贱/ 2022年05月12日 13:12/ 0 赞/ 320 阅读

相关 [Python数据挖掘] KMeans聚类算法原理底层实现

\[问题背景\] 关于KMeans聚类原理的动画演示，我在B站的投稿《[Kmeans聚类原理动画演示][Kmeans_]》中已作了介绍，有兴趣的朋友可以先看一下链接中的1分

比眉伴天荒/ 2022年01月21日 06:37/ 0 赞/ 390 阅读