多元回归分析：估计 (2).ppt

第3章 多元回归分析：估计
精选课件
使用多元回归的动因
普通最小二乘法的操作和解释
OLS估计量的期望值
OLS估计量的方差
OLS的有效性：高斯-马尔可夫定理
精选课第3章 多元回归分析：估计
精选课件
使用多元回归的动因
普通最小二乘法的操作和解释
OLS估计量的期望值
OLS估计量的方差
OLS的有效性：高斯-马尔可夫定理
精选课件
使用多元回归的动因
1、可以度量在其他条件不变情况下y相对于某一因素的变化；
2、简单回归分析中 被包括在误差项中，而x1与 可能相关，从而导致在两变量模型中对 的估计有偏误。
3、多元回归分析对推广两变量之间的函数关系有帮助。
精选课件
普通最小二乘法的操作和解释
如何得到OLS估计值
最小化残差平方和
对OLS回归方程的解释
偏效应，其他情况不变
对多元回归“排除其他变量影响”的解释

是将x1对其他解释变量回归得到的残差
精选课件
简单回归和多元回归估计值的比较
二者在两种情况下相等：
1 样本中x2对y的偏效应为零；
2 样本中x1与x2 不相关。
拟合优度
精选课件
OLS估计量的期望值
假定1：关于参数的线性方程
假定2：随机抽样
假定3: 不存在完全共线性
在样本中，没有一个自变量是常数，自变量之间也不存在严格的线性关系。
假定4：条件均值为零
给定自变量的任何值，误差u的期望值为零。
精选课件
1、在模型中包含了无关变量
不影响OLS估计量的无偏性，但是增大了方差。
2、遗漏变量
精选课件
OLS估计量的方差
假定5：同方差性
在假定1-5下，以自变量的样本值为条件，对所有的j=1，…，k，都有
OLS方差的成分：多重共线性
误差方差：越大意味着OLS估计量的方差就越大；
精选课件
Xj的总样本变异， 越小，方差越大，但是其等于0违背假定3；
自变量之间的线性关系， 是将Xj对所有其他自变量进行回归得到的。 时方差最小，
违背假定3。两个或多个自变量之间高度相关（但不完全）相关，被称为多重共线性。模型中某些自变量之间高度相关，对模型中其他参数的估计效果不重要（从方差公式看）。
小样本容量可能导致很大的抽样方差。
精选课件
误设模型中的方差
真实模型：
遗漏了X2：
得：
精选课件
1、 时，是有偏的，无偏，且
2、 时，二者都无偏，且
从第2个结论看，模型中包括无关变量的后果是参数估计量的方差较高。
第1种情况下，我们更偏好在模型中包括X2，即更偏好 ，因为
A：在大样本情况下，偏误对任何样本容量都大致相等，随着n变大， 都趋于0；
B：模型错误的遗漏了X2，误差方差因为有效地包含了部分X2而提高。
精选课件
估计：OLS估计量的标准误
： 是 的无偏估计
：高斯-马尔可夫定理
在假定1-5下，可以得到最优无偏估计量。
精选课件