运用spss做因子解析与主成分解析 (一).ppt

主成分分析和因子分析
案例1:成绩排名
100个学生的数学、物理、化学、语文、历史、英语的成绩如下表(部分)。
主成分分析
当坐标轴和椭圆的长短轴平行,那么代表长轴的变量就描述了数据的主要变化,而代表短轴的变量就描述了数据的次要变化。
但是,坐标轴通常并不和椭圆的长短轴平行。因此,需要寻找椭圆的长短轴,并进行变换,使得新变量和椭圆的长短轴平行。
如果长轴变量代表了数据包含的大部分信息,就用该变量代替原先的两个变量(舍去次要的一维),降维就完成了。
椭圆(球)的长短轴相差得越大,降维也越有道理。
如用x1,x2,x3,x4,x5,x6分别表示原先的六个变量,而用y1,y2,y3,y4,y5,y6表示新的主成分,那么,原先六个变量x1,x2,x3,x4,x5,x6与第一和第二主成分y1,y2的关系为:
X1=- +
X2=- +
X3=- +
X4= +
x5= +
x6= +
这些系数称为主成分载荷(loading),它表示主成分和相应的原先变量的相关系数。
比如x1表示式中y1的系数为-,这就是说第一主成分和数学变量的相关系数为-。
相关系数(绝对值)越大,主成分对该变量的代表性也越大。可以看得出,第一主成分对各个变量解释得都很充分。而最后的几个主成分和原先的变量就不那么相关了。
该图左面三个点是数学、物理、化学三科,右边三个点是语文、历史、外语三科。图中的六个点由于比较挤,不易分清,但只要认识到这些点的坐标是前面的第一二主成分载荷,坐标是前面表中第一二列中的数目,还是可以识别的。
因子分析
主成分分析从原理上是寻找椭球的所有主轴。因此,原先有几个变量,就有几个主成分。
而因子分析是事先确定要找几个成分,这里叫因子(factor)(比如两个),那就找两个。
这使得在数学模型上,因子分析和主成分分析有不少区别。根据因子分析模型的特点,它还多一道工序:因子旋转(factor rotation);可以使结果更好。
当然,对于计算机来说,因子分析并不比主成分分析多费多少时间。
从输出的结果来看,因子分析也有因子载荷(factor loading)的概念,代表了因子和原先变量的相关系数。但是在输出中的因子和原来变量相关系数的公式中的系数不是因子载荷,也给出了二维图;该图虽然不是载荷图,但解释和主成分分析的载荷图类似。
因子分析概述
定义:因子分析以最少的信息丢失为前提,将众多的原有变量综合成较少几个综合指标,名为因子。通常,因子有以下几个特点
因子个数远远少于原有变量的个数
因子能够反映原有变量的绝大部分信息
因子之间的线性关系不显著(即独立的)
因子具有命名解释性