第五章 参数估计.pdf

第五章参数估计

第五章参数估计
本章系统介绍对于总体未知参数进行估计的系统方法以及相关理论。

5. 1 点估计
∧
所谓点估计就是由样本x1,x2,…xn确定一个统计量
θ= ()21 L x,,x,xg n
用它来估计总体的未知参数,称为总体参数的估计量。当具体的样本抽出后,
可求出样本参数的值。用它作为总体参数的估计值,称作总体参数的点估计,
实际上它就是总体未知参数的近似值。
一般而言用与总体特征数相应的样本特征数作为其点估计。例如对于
μ可用 d ,, MMX 0 等作为点估计。但哪个更好呢?因此要有一个衡量标准。

衡量估计量优劣的标准
1. 无偏性(unbiasedness)
∧
(1)设θ为总体未知参数θ的估计量
∧
若 E )( = θθ(5-1)
∧∧∧
则称θ是θ的无偏估计量,称θ具有无偏性。如果θ是有偏估计量,则
它的偏差量为
∧
偏差= E )-( θθ
∧
我们来说明一下为什么要求估计量具有无偏性,因为估计量θ是随机变
量,对于不同的样本观察值就有不同的估计值,我们用它来估计未知的总体
参数,它不一定正好等于θ,但是我们希望它能靠近这个参数,在这个参数
∧
值附近摆动,即希望E )( = θθ,如果不具有无偏性,就会产生偏差,有时
是正偏差,有时是负偏差。
∧
如果 E )<( θθ负偏差
∧
如果 E )>( θθ正偏差
- 56 -
第五章参数估计
∧
如果偏差存在,即使多次选取样本,θ也只能在θ的周围摆动,这时如
∧
用θ作为θ的估计值就会产生系统误差,不是偏大就是偏小。
(2)用 x 估计μ,用s 2 估计σ 2 是不是无偏估计量
①已讨论过 xE )( = μ,x 具有无偏性。
1
②对于 sx22=−(x),
n −1∑ i
则
n
2 1 ⎡ 2 2 ⎤
sE )( = ⎢∑ i μ xnxE −−−μ)()( ⎥
n −1 ⎣ i=1 ⎦
1 ⎡ n ⎤
= xE μ 2 xnE −−−μ)()( 2
⎢∑ i ⎥
n −1 ⎣ i=1 ⎦
1
= []n −σσ 22
n −1
= σ 2
1 2
即当 s 2 = ( − xx ) 时,s 2 是无偏估计量。
n −1∑ i
2. 一致性(consistency)
如果对任意小的正数ε> 0,有
⎧∧⎫
lim P⎨<−εθθ⎬= 1 (5-2)
n ∞→⎩⎭
∧∧
则称θ是θ的一致估计量,称θ具有一致性,可以证明与Sx 2 均具有一
致性。
3. 有效性
⎛∧⎞
D⎜θ 1 ⎟
∧∧⎝⎠
若与θθ 21 都是θ的无偏估计量且<1
⎛∧⎞
D⎜θ 2 ⎟
⎝⎠
或()1 <DD (θθ 2 ) (5-3)
- 57 -
第五章参数估计
∧∧
则称θ 1 较θ 2 为有效估计量。
πσ 2
已知当 n 为大样本时, NMe μ,(~ ) ,
2n
πσ 2 σ 2
所以 EMe( ) = μ,σσ2 ()Mex=≈157.(2 );而σ 2 x =
2n () n
即: σσ2(Me) > 2()x (5-4)
所以较xMe 为μ的有效估计量
—克拉美不等式
如果有两个以上的无偏估计量,称其具有最小方差的估计量为最佳无偏
估计量。为检查估计量是否达到最佳无偏,可以用罗—克拉美不等式衡量。
∧∧
对于一个无偏估计量θ,它的方差D θ)( 在一般的条件下,永远不会小
∧
于一个正数,这个正数是D θ)( 的下限,它依赖于总体的概率密度函数和样
本容量 n,
1
即) (5-5)
D(θ) ≥ 2
⎡∂()xInf ,θ⎤
nE⎢⎥
⎣∂θ⎦
∧∧
当D θ)( 等于不等式右端时,称θ为最佳无偏估计量。
[例 ] 若 NX σμ 2 ),(~ ,证明: x 是总体均值μ的最佳无偏估计量。
[证]
()x−μ 2
−
1 2
xf σμ 2 ),,( = e 2σ
2πσ
1 (x −μ)2
∴ xf σμ 2 (ln1ln),,(ln +−= πσ))2ln( − ln e
2 2σ 2

- 58 -
第五章参数估计
∂ xf σμ 2 1),,(ln
x μ−•−•−= )1()(
2
∂μσ
()x −μ
=
σ 2
2
⎡(x