k均值聚类解说.ppt

K-means K-means 算法研究算法研究 K K值优化值优化目录?相关概念?基本思想?算法步骤? K值优化聚类聚类是一个将数据集中在某些方面相似的数据成员进行分类组织的过程,聚类就是一种发现这种内在结构的技术,聚类技术经常被称为无监督学****K-均值聚类又称为 C-均值聚类,是根据函数准则进行分类的聚类算法, ?其基本思想是:通过迭代的方法,逐次更新各聚类中心的值,直至得到最好的聚类结果。? K- 均值聚类算法准则函数聚类集中每个样本点到该类聚类中心的距离平方和, 对于第 j个聚类集,准则函数定义为其中 S j 表示第 j 个聚类集, 聚类中心为 Z j;N j 为第 j个聚类集 S j中包含的样本数。对所有 K个模式类有 K-均值聚类算法准则函数聚类中心 Z j的选择应使准则函数 J极小,也就是使得 J i的值极小,要满足这一点,应有,即解得上式表明, S j类的聚类中心应选为该类样本的均值。?K-均值聚类算法步骤?设共有 N个模式样本,计算步骤如下: (1)任选 K个初始聚类中心 Z 1(l)Z 2(l)..Z k(l),K<N 。括号内的序号代表了寻找聚类中心的迭代运算的次序号。一般可选择样本集中前 K个样本作为初始聚类中心。(2) 按最小距离原则将其余样本分配到 K 个聚类中心中的某一个中心所对应的类别中,即如果 . 其中 K为迭代运算的次序号,若第一次迭代则 K代表了聚类中心的个数. ? K- 均值聚类算法步骤(3) 计算各个中心的新向量值 Z j(k+1) , j=1,2..K. K个聚类中的样本均值向量,故该算法称为 K-均值算法. (4) 如果 , 则回到步骤(2), 将样本逐个重新分配,并重复迭代计算;如果 Z j(k+1)=Z j(k) ,j=1,2..K, 算法收敛,计算完毕. 聚类示意图(二维) ?K-均值聚类