模式识别实验.doc

《模式识别》实验报告班级:电子信息科学与技术13级02班姓名:学号:指导老师:成绩:通信与信息工程学院二〇一六年实验一最大最小距离算法实验内容熟悉最大最小距离算法,并能够用程序写出。利用最大最小距离算法寻找到聚类中心,并将模式样本划分到各聚类中心对应的类别中。实验原理N个待分类的模式样本,分别分类到聚类中心对应的类别之中。最大最小距离算法描述:任选一个模式样本作为第一聚类中心。选择离距离最远的模式样本作为第二聚类中心。逐个计算每个模式样本与已确定的所有聚类中心之间的距离,并选出其中的最小距离。在所有最小距离中选出一个最大的距离,如果该最大值达到了的一定分数比值以上,则将产生最大距离的那个模式样本定义为新增的聚类中心,并返回上一步。否则,聚类中心的计算步骤结束。这里的的一定分数比值就是阈值,即有:重复步骤(3)和步骤(4),直到没有新的聚类中心出现为止。在这个过程中,当有k个聚类中心时,分别计算每个模式样本与所有聚类中心距离中的最小距离值,寻找到N个最小距离中的最大距离并进行判别,结果大于阈值是,存在,并取为产生最大值的相应模式向量;否则,停止寻找聚类中心。(6)寻找聚类中心的运算结束后,将模式样本按最近距离划分到相应的聚类中心所代表的类别之中。三、,以下利用的matlab中的元胞存储10个二维模式样本X{1}=[0;0];X{2}=[1;1];X{3}=[2;2];X{4}=[3;7];X{5}=[3;6];X{6}=[4;6];X{7}=[5;7];X{8}=[6;3];X{9}=[7;3];X{10}=[7;4];利用最大最小距离算法,matlab运行可以求得从matlab运行结果可以看出,聚类中心为,以为聚类中心的点有,以为聚类中心的点有,以为聚类中心的有。同时,做出聚类分析后的分布图,如下:图中用蓝色大圈标记了聚类中心,用星号标记了以为聚类中心的样本,用三角符号标记了以以为聚类中心的样本,用红色小圈标记了以为聚类中心的样本,该程序成功进行了分类实验二感知器算法一、实验内容熟悉感知器算法,并能够用程序写出。利用感知器算法进行判别分类,算出判别函数,画出判别界面。实验原理直接用来对模式进行分类的准则函数。若分属于ω1,ω2的两类模式可用一方程来划分,那么称为判别函数,或称判决函数、决策函数。如,一个二维的两类判别问题,模式分布如图示,这些分属于ω1,ω2两类的模式可用一直线方程来划分。其中式中:为坐标变量。图2-1两类二维模式的分布将某一未知模式代入:若,则类;若,则类;若,则或拒绝。两类线性可分的模式类,设其中,,应具有性质对样本进行规范化处理,即ω2类样本全部乘以(-1),则有:感知器算法通过对已知类别的训练样本集的学****寻找一个满足上式的权向量。感知器算法步骤:(1)选择N个分属于ω1和ω2类的模式样本构成训练样本集构成增广向量形式,并进行规范化处理。任取权向量初始值W(1),开始迭代。迭代次数k=1。(2)用全部训练样本进行一轮迭代,计算的值,并修正权向量。分两种情况,更新权向量的值:分类器对第i个模式做了错误分类,权向量校正为:c:正的校正增量。若分类正确,权向量不变:,统一写为:(3)分析分类结果:只要有一个错误分类,回到(2),直至对所有样本正确分类。感知器算法是一种赏罚过程:分类正确时,对权向量“赏”——这里用“不罚”,即权向量不变;分类错误时,对权向量“罚”——对其修改,向正确的方向转换。实验结果与分析已知两类训练样本为:设,同样地,利用matlab元胞数组存储该两类训练样本利用感知器算法,matlab运行得到如下结果:因此,可以得到感知器算法算出的判别函数为:利用matlab的画图函数画出判别界面以及样本点,得到如下的分布图:由样本分布图可以看出,判别界面成功将两类训练样本分离。实验三LMSE算法实验内容了解LMSE算法,并能够用程序写出。利用LMSE算法进行判别分类,算出判别函数,并画出判别界面。二、实验原理LMSE算法为最小平方误差算法,其算法过程如下:将N个分属于类和类的n维模式样本写成增广形式,将属于的训练样本乘以(-1),写出规范化增广样本矩阵。求的伪逆矩阵。设置初值c和,c为正的校正增量,的各分量大于0,括号中数字代表迭代次数k=1,开始迭代。计算,进行可分性判别。如果,模式线性可分,解为,算法结束。如果,模式线性可分,有解。继续迭代。如果,停止迭代,检查是否大于0。若大于0,有解,否则无解,算法结束。计算和先计算,再计算,迭代次数k加1,返回第(4)步。实验结果及分析该实验用的训练样本与感知器算法使用的样本一致,为以下两类训练样本:设定初始值,同样地利用matlab中的元胞数组存放训练样本点,通过编写matlab的LMSE程序可以得到以下结果: