第十一章 多元线性回归和相关分析-word资料(精).doc

第十一章多元线性回归和相关分析第一节多元回归分析?依变量依两个或两个以上自变量的回归,称为多元回归或复回归(multiple regression) ?主要内容:1、确定各个自变量对依变量的综合效应和单独效应, 即建立由各自变量描述和预测依变量反应量的多元回归方程; 2 、对上述综合效应和单独效应的显著性进行测验,建立最优多元回归方程;评价各自变量对依变量的相对重要性。一、多元回归方程? 1 、多元回归的线性模型和多元回归方程式?一个 m 元线性回归总体的线性模型为: ?y j=? 0+? 1x 1j+? 2x 2j+…+? mx mj+? j?其中, ? j~N( 0, ?? 2)?一个 m 元线性回归样本观察值的组成为: ?y j=b 0 +b 1x 1j +b 2x 2j+…+b mx mj +e j?同理一个 m 元线性回归方程可给定为: ? b 0是x 1、x 2、…、x m 都为 0时y 的点估计值; ? b 1是b y …m 的简写, 它是在 x 2,x 3,…,x m 皆保持一定时( 取常量),x 1 每改变一个单位时对 y 的效应, 称为 x 2,x 3,…,x m 不变时, x 1对y 的偏回归系数( partial regression coefficient )。 2 、多元回归统计数的计算?多元线性回归资料的数据结构如下表: ? m 个自变量与依变量 y 的回归方程为: 根据最小二乘法原理,b 0、b 1、b 2、……b m 应使全部观察值 y 与回归估计值的偏差平方和为最小, 即使根据微分学中的极值原理,分别对 b 0、b 1、b 2、……b m 偏导,并令其为 0 ,即?该方程组称为正规方程组,可尽一步化为 Nb 0+b 1x 1+b 2x 2+b 3x 3+ ……+b mx m=y b 0x 1+b 1x 1 2+b 2x 1x 2+b 3x 1x 3+ ……+b mx 1x m=x 1y b 0x 2+b 1x 1x 2+b 2x 2 2+b 3x 2x 3+ ……+b mx 2x m=x 2y ………… b 0x m+b 1x 1x m+b 2x 2x m+b 3x 3x m+ ……+b mx m 2=x my ?写成矩阵形式: AbB 系数矩阵偏回归系数矩阵常数项矩阵即 Ab=B 系数矩阵 A=X?X,n 组数据的称为结构矩阵或数据矩阵这样一来,正规方程组的矩阵形式是(X ?X)b=X ?Y 或 Ab=B 其中 b ?=(b 0,b 1,b 2,…b m) 是正规方程组中的未知数。在系数矩阵满秩的条件下( 这个条件在一般情况是容易满足的),A 的逆阵存在,因而 b=A -1B =(X ?X) -1X ?YC=A -1 =(X ?X) -1 称为相关矩阵?(例 ) 通过 12 个北方春玉米杂交种的测定数据( 见表 ) , 研究在相同密度下每穗粒数(X 1,粒)、百粒重(X 2, g) 、株高(X 3, cm) 与每公顷玉米籽粒产量(Y, kg/hm 2) 的关系。试建立每穗总粒数、百粒重、株高对每公顷玉米产量的多元线性回归方程; ?解:用矩阵法求解多元线性回归方程?①写出结构矩阵或数据矩阵 X 及依变量列矩阵 Y ?②利用公式 A=X ?X,B=X ?Y ,求得系数矩阵 A 和常数项矩阵