Fisher最优分割法的结合应用.doc

主成分分析与 Fisher ??????????????? pp pp p prrr rrr rrrR??????? 21 222 21 112 11 在上式中, r ij(i, j=1 ,2,…,p)为原变量的 xi与 xj之间的相关系数,其计算公式为??????????? nk nk j kji ki nk j kji ki ijxxxx xxxxr 11 22 1)()( ) )(( 因为R是实对称矩阵(即 r ij =r ji),所以只需计算上三角元素或下三角元素即可。 0??RI?,通常用雅可比法( Jacobi )求出特征值),,2,1(pi i???,并使其按大小顺序排列,即 0, 21???? p????;然后分别求出对应于特征值 i?的特征向量),,2,1(pie i??。这里要求 ie =1 ,即 1 1 2??? pj ije ,其中 ije 表示向量 ie 的第 j个分量。 iz 的贡献率为),,2,1( 1pi pk k i??????累计贡献率为),,2,1( 1 1pi pk k ik k????????一般取累计贡献率达 85—95% 的特征值 m???,,, 21?所对应的第一、第二, …, 第m(m≤p)个主成分。 ),,2,1,(),(pjiexzpl ijiji ij?????得到各主成分的载荷以后, 还可以进一步计算,得到各主成分的得分????????????? nm nn m mzzz zzz zzzZ??????? 21 222 21 112 11 二. Fisher 最优分割法的聚类步骤 G包含的样品有?????????? 1 , ,..., i i j X X X j i ??,记为??, 1,..., G i i j ? ?。该类的均值向量 GX :为??11 jGt t i X X j i ??? ??: 用??, D i j 表示这一类的直径,常用的直径有: ??????', j G G t t t i D i j X X X X ?? ???? ??? ???? ????: : ??, b n k 表示将 n个有序样品分为 k类的某一种分法,常记分发??, b n k 为: ?????? 1 1, 1 2 2 2 , 2 3 , 1, . . . , 1 , 1, . . . , 1 , . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1, . . . , , k k k G i i i G i i i G i i n ? ??? ??? ?其中分点为?? 1 2 1 1 1 ... 1 1 k k k i i i n i i n ? ?? ????????即。定义上述分类法的损失函数为???? 11 , , 1 k t t t L b n k D i i ??? ?? ?? ?? 3.??, L b n k ? ?? ?的地推公式费希尔算法最核心的部分是利用以下俩个地推公式: ???????????????? 2 , 2 min 1, 1 , , , min 1, 1 , j n k j n L b n D j D j n L b n k L P j k D j n ? ?? ??? ??? ?? ???? ???? ? ???? ? ??? ?? 1 k k n ? ?已知,求分类法??, P n k ,使它在损失函数意义下达最小,其求法如下: 首先找分点 kj ,使地推公式达极小,即??????,