辛钦大数定律的证明(在第15页).doc

第四章大数定律与中心极限定理
极限定理是概率论与数理统计学中最重要的理论结果。本章简单地介绍两类极限定理---“大数定律”和“中心极限定理”。
通常,把叙述在什么条件下一随机变量序列的算术平均值(按某种意义)收敛于某数的定理称为“大数定律”;把叙述在什么条件下大量的随机变量之和近似服从正态分布的定理称为“中心极限定理”。本教材只介绍极限定理的经典结果。分布函数、矩和特征函数是解决经典极限定理的主要工具。
教学目的与要求
掌握四个大数定律的条件、结论及数学意义;
理解随机变量序列的两种收敛性的定义及其关系,了解特征函数的连续性定理;
掌握独立同分布中心极限定理的条件、结论,并会用来解决一些实际问题。
教学重点和难点
教学重点是讲清大数定律的条件、结论和中心极限定理的条件、结论。
教学难点是随机变量序列的两种收敛性及大数定律和中心极限定理的应用。
§ 大数定律
一、大数定律的意义
在第一章中引入事件与概率的概念时曾经指出,尽管随机事件A在一次试验可能出现也可能不出现,但在大量的试验中则呈现出明显的统计规律性——频率的稳定性。频率是概率的反映,随着观测次数的增加,频率将会逐渐稳定到概率。这里说的“频率逐渐稳定于概率”实质上是频率依某种收敛意义趋于概率,这个稳定性就是“大数定律”研究的客观背景。
详细地说:设在一次观测中事件A发生的概率,如果观测了次(也就是一个重贝努里试验),A发生了次,则A在次观测中发生的频率为,当充分大时,频率逐渐稳定到概率。若用随机变量的语言表述,就是:设表示第次观测中事件A发生次数,即

则是个相互独立的随机变量,显然。
从而有
因此“稳定于”,又可表述为次观测结果的平均值稳定于。
现在的问题是:“稳定”的确切含义是什么?稳定于是否能写成
(1)
亦即,是否对, (2)
对重贝努里试验的所有样本点都成立?
实际上,我们发现事实并非如此,比如在次观测中事件A发生次还是有可能的,此时,从而对,不论多么大,也不可能得到成立。也就是说,在个别场合下,事件()还是有可能发生的,不过当很大时,事件()发生的可能性很小。例如,对上面的,有。
显然,当时, ,所以“稳定于”是意味着对,有
(3)
(概率上“稳定于”还有其他提法,如博雷尔建立了,从而开创了另一形式的极限定理---强大数定律的研究)
沿用前面的记号,(3)式可写成
一般地,设是随机变量序列,为常数,如果对,有
(4)
即
则称稳定于。
概率论中,一切关于大量随机现象之平均结果稳定性的定理,统称为大数定律。
若将(4)式中的换成常数列,即得大数定律的一般定义。
:若是随机变量序列,如果存在常数列,
使对,有
成立,则称随机变量序列服从大数定律。
若随机变量具有数学期望,则大数定律的经典形式是:
对,有
这里常数列
二、四个大数定律
本段介绍一组大数定律,设是一随机变量序列,我们总假定
存在。
首先看一课后题的(马尔可夫大数定律)
如果随机变量序列,当时,有(*)
证明:服从大数定律。
证明: 对,由契贝晓夫不等式,有
因此
即
故服从大数定律。#
此大数定律称为马尔可夫大数定律,(*)式称为马尔可夫条件。
(契贝晓夫大数定律)设是一列两两不相关的随机变量,又设它们的方差有界,即存在常数,使有
则随机变量序列服从大数定律,即对,有
证明: 因为两两不相关,且由它们的方差有界即可得到
从而有
满足马尔可夫条件,因此由马尔可夫大数定律,有
#
注:契贝晓夫大数定律是马尔可夫大数定律的特例。
设为独立同分布随机变量序列,均服从参数为的普哇松分布,则由独立一定不相关,且,,因此有
注:此例题也可直接验证满足马尔可夫条件。
(贝努里定理或贝努里大数定律):设是重贝努里试验中事件A出现的次数,又A在每次试验中出现的概率为,则对,有
证明:令
显然
由定理条件,独立同分布(均服从二点分布)。
且都是常数,从而方差有界。
由契贝晓夫大数定律,有
#
贝努里大数定律的数学意义:贝努里大数定律阐述了频率稳定性的含义,当充分大时可以以接近的概率断言,将落在以为中心的内。贝努里大数定律为用频率估计概率()提供了理论依据。
注1:此定理的证明也可直接验证满足马尔可夫条件。
注2:贝努里大数定律是契贝晓夫大数定律的特例。它是1713年由贝努里提出的概率极限定理中的第一个大数定律。
以上大数定律的证明是以契贝晓夫不等式为基础的,所以要求随机变量的方差存在,通过进一步研究,我们发现方差存在这个条件并不是必要条件。
(辛钦大数定律)设是一列独立同分布的随机变