毕业设计 因子分析.doc

第八章因子分析
§ 什么是因子分析及基本思想
1904年Charles Spearman发表一篇著名论文《对智力测验得分进行统计分析》视为因子分析的起点。因子分析的形成和发展有相当长的历史,最早用以研究解决心理学和教育学方面的问题,由于计算量大,又缺少高速计算的设备使因子分析的应用和发展受到很大的限制,甚至停滞了很长时间。后来由于电子计算机的出现,才使因子分析的理论研究和计算问题,有了很大的进展。目前这一方法的应用范围已十分广泛,在经济学、社会学、考古学、生物学、医学、地质学以及体育科学等各个领域都取得了显著的成绩。
1 什么是因子分析
因子分析是主成分分析的推广和发展,它也是将具有错综复杂关系的变量(或样品)综合为数量较少的几个因子,以再现原始变量与因子之间的相互关系,同时根据不同因子还可以对变量进行分类,它也是属于多元分析中处理降维的一种统计方法。
例如,某公司对100名招聘人员的知识和能力进行测试,出了50道题的试卷,其内容包括的面较广,但总的来讲可归纳为六个方面:语言表达能力、逻辑思维能力、判断事物的敏捷和果断程度、思想修养、兴趣爱好、生活常识等,我们将每一个方面称为因子,显然这里所说的因子不同于回归分析中因素,因为前者是比较抽象的一种概念,而后者有着极为明确的实际意义,如人口密度、工业总产值、产量等。
假设100人测试的分数可以用上述六个因子表示成线性函数:
其中表示六个因子,它对所有Xi是共有的因子,通常称为公共因子,它们的系数称为因子载荷,它表示第i个应试人员在六个因子方面的能力。是第i个应试人的能力和知识不能被前六个因子包括的部分,称为特殊因子,通常假定,仔细观察这个模型与回归模型在形式上有些相似,实质很不同。这里的的值未知的,并且有关参数的统计意义更不一样。因子分析的任务,首先是估计出和方差,然后将这些抽象因子赋予有实际背景和因子之间的相互关系,以达到降维和对原始变量进行分类的目的。
因子分析的内容十分丰富,本章仅介绍因子分析常用的两种类型:R型因子分析(对变量作因子分析)和Q型因子分析(对样品作因子分析)。
2 基本思想
因子分析的基本思想是通过变量(或样品)的相关系数矩阵(对样品是相似系数矩阵)内部结构的研究,找出能控制所有变量(或样品)的少数几个随机变量去描述多个变量(或样品)之间的相关(相似)关系,但在这里,这少数几个随机变量是不可观测的,通常称为因子。然后根据相关性(或相似性)的大小把变量(或样品)分组,使得同组内的变量(或样品)之间相关性(或相似性)较高,但不同组的变量相关性(或相似性)较低。
从全部计算过程来看作R型因子分析与作Q型因子分析都是一样的,只不过出发点不同,R型从相关系数矩阵出发,Q型从相似系数阵出发都是对同一批观测数据,可以根据其所要求的目的决定哪一类型的因子分析。
§ 因子分析的数学模型
1 数学模型(正交因子模型)
R型因子分析数学模型
用矩阵表示:
简记为
且满足:
1)
ii) 即F和是不相关的;
iii)即F1…Fm不相关且方差皆为1。
即不相关,且方差不同。
其中是可实测的p个指标所构成p维随机向量,是不可观测的向量,F称为X的公共因子或潜因子,即前面所说的综合变量,可以把它们理解为在高维空间中的互相垂直的
m个坐标轴;aij称为因子载荷是第i个变量在第j个公共因子上的负荷,如果把变量Xi看成m维因子空间中的一个向量,则表示Xi在坐标轴Fj上的投影,矩阵A称为因子载荷矩阵;称为X的特殊因子,通常理论上要求的协方差阵是对角阵,中包括了随机误差。
由上述模型满足的条件可知:是不相关的。若相关时,则D(F)就不是对角阵,这时的模型称为斜交因子模型,本章将不讨论这种模型。
类似地,Q型因子分析数学模型为:
此时X1, X2, …, Xn表示n个样品。
因子分析的目的就是通过模型代替X,由于,从而达到简化变量维数的愿望。
因子分析和主成分分析有很多相似之处,在求解过程中二者都是从一个协方差阵(或相似系数阵)出发,但这两种模型是有区别的,主成分分析的数学模型实质上是一种变换,而因子分析模型是描述原指标X协方差阵结构的一种模型,当时,主不能考虑,此时因子分析也对应于一种变量变换,但在实际应用中,m都小于p,且为经济起见总是越小越好。另外在主成分分析中每个主成分相应的系数是唯一确定的,即因子戴荷阵不是唯一的,若为任一个阶正交阵,则因子模型可写成:,仍满足约束条件,即,所以也是公共因子,也是因子载荷阵。因子载荷这个不唯一性,从表面上看是不利的,但后面将会看到当因子载荷阵A的结构不够简化时,可对A实行变换以达到简化目的,使新的因子更具有鲜明的实际意义。从因子分析的数学模型上看,它与多变量回归分析也有类似之处,但本质的区别是