概率论与数理统计读书笔记.pdf

该【概率论与数理统计读书笔记 】是由【mama】上传分享，文档一共【21】页，该文档可以免费在线阅读，需要了解更多关于【概率论与数理统计读书笔记 】的内容，可以使用淘豆网的站内搜索功能，选择自己适合的文档，以下文字是截取该文章内的部分文字，如需要获得完整电子版，请下载此文档到您的设备，方便您编辑和打印。:.
概率论与数理统计读书笔记:.
目录
第一章概率论的基本概念.................................1
1随机试验.........................................1
、随机事件...............................1
.......................................2
(古典概型)..........错误!未定义书签。
.........................................1
...........................................1
第二章随机变量及其分布.................................2

2

2
...............................4
.......................4
...............................5
第三章多维随机变量及其分布.............................5
.....................................5
.........................................7
.........................................8
...............................9
...........................9:.
概率论与数理统计读书笔记
第四章随机变量的数字特征..............................10
.......................................10
...........................................12
...............................13
、协方差矩阵..................................14
第五章大数定律和中心极限定理..........................14

14
....................................15
第六章样本及抽样分布....................错误!未定义书签。
第七章参数估计.........................错误!未定义书签。
第八章假设检验.........................错误!未定义书签。
第九章回归分析.........................错误!未定义书签。
参考文献................................错误!未定义书签。
:.
概率论与数理统计读书笔记
第一章概率论的基本概念
1随机试验
、记录、试验统称为随机试验.
,记为
Se,称S中的元素e为基本事件或样本点.
;每次实验的可能结果不止一
个,并且能事先明确试验的所有可能结果;进行一次试验之前不能确
定哪一个结果会实现.
、随机事件
,尽管在每次试验之前不能预知试验结果,但试验的

果组成的集合称为E的样本空间,记为S样本空间的元素,即E的每
个结果称为样本点.
,当且仅当A所包含的一
,则每次试验S总
是发生,故又称S为必然事件。为方便起见,记为不可能事件,不
包含任何样本点.
B,则称事件B包含事件A,这指的是事件A发生必导致事
件的发生。若AB且BA,即AB,则称事件A与事件B相等.
1
:.
概率论与数理统计读书笔记

xxA或xA:A与B至少有一发生.
时,称事件A与B不相容的,
.
AASAAS
A的逆事件记为A,{,若{,则称A,B互逆,互斥.
AAAB
,B同时发生时,.
:设A表示事件“A出现”,则“事件A
不出现”称为事件A的对立事件或逆事件.
事件间的运算规律:设A,B,C为事件,则有

n
AA
nn
频率f(A)反映了事件A发生的频繁程度.
n
:
,频率f(A)呈现出稳定性,逐渐稳
n
“频率稳定性”
试验重复大量次数,计算频率以它来表征事件f(A)A发生可能性的大小是
n
(nA)的增大渐趋稳定,(Ap)定义为
nn
A的概率,记为P(A)p.
:设E是随机试验,
事件A赋予一个实数,记为P(A),称为事件A的概率.
满足下列条件:
2
:.
概率论与数理统计读书笔记
1
:.
概率论与数理统计读书笔记

,称
:设A,B是两个事件,且P(A)0
P(AB)
P(BA)
P(A)
为在A事件发生条件下B事件发生的条件概率.
,即:
(1)非负性对于每一事件B,有
PBA0
(2)规范性对于必然事件S,有PSA1
(3)可列可加性设BB是两两互不相容的事件,则有
12


PBAPBA

ii

i1i1

:设PA0,则有PABPBAPA
推广:一般设AAA为n个事件,,且PAAA0有
n2
12n12n1
P(AAA)P(AAAA)P(AAAA)P(AA)P(A)
12nn12n1n112n2211.
,
:设试验E的样本空间为SA为E的事
,则
件,B,B,....,B为S的一个划分,且P(B)0(i1,2,...,n)
12ni
,
:设试验E的样本空间为SA为E的事
,则
件,B,B,....,B为S的一个划分,且P(B)0(i1,2,...,n)
12ni

:设A,B是两事件,如果满足等式P(AB)P(A)P(B),则称
事件A,B相互独立,简称A,B独立.
,则
若P(A)0,P(B)0A,B相互独立与A,B互不相容不能同时成
1
:.
概率论与数理统计读书笔记
立.
:设A,B是两事件,且PA>0,若A,B相互独立,则

PBA=.
:若事件A与B相互独立则A与B,A与B,A与B也相
互独立.
:设A,B,C是三个事件,如果满足等式
P(AB)P(A)P(B),P(BC)P(B)P(C),
P(AC)P(A)P(C),P(ABC)P(A)P(B)P(C)则称事件A,B,C相互
独立.
,B相互独立A,B相互独立A,B相互独立A,B相互独立
当PABPAPB时

第二章PABP随机变量及其分布AABPAPABPA1PBPAPB


:设随机试验的样本空间Se,XXe是定义在样本空
间S上的实值单值函数,称XXe为随机变量.
离散型
常见的两类随机变量{.
连续型
,Y,Z,W,...表示随机变量,而以小写字
母x,y,z,w,...表示实数.

:有些随机变量,它全部可能取到的不相同的值是有限个或可
2
:.
概率论与数理统计读书笔记
列无限多个,这种随机变量称为离散型随机变量.
:取值可数的随机变量为离散量.
x取各个可能值的概率论,即事件的概率为
PXxp,k1,2,称为离散型随机变量X的分布律。p
kkk
满足如下两个条件:

(1)p0(2)p1
kk
k1
3.(0-1)分布
设随机变量X只可能取0与1两个值,它的分布律是
P{Xk}pkq1k,k0,1(0p1,pq1),
则称X服从(0-1)分布或两点分布.
(0-1)分布的分布律也可写成
:A及A,
P(A)p(0p1),此时P(A)1p,将E独立重复地进行n次,则
称这一串重复的独立试验为n重伯努利试验.
Ckpkqnk刚好是二项式(pq)n的展开式中出现Pk的那一项,故称随
n
机变量X服从参数n,p的二项分布,记为X~B(n,p).特别,当n1时
二项分布化为PXkpkq1k,k0,1,这就是(0-1)分布.

设随机变量X所有可能取值为0,1,2…..而取各个值的概率为
的泊松分布,记为X~P()
3
:.
概率论与数理统计读书笔记


设X是一个连续随机变量,称F(x)p(Xx)(x)为X的
,x是自变量.
由定义,对任意实数,随机点落在区间x,x的概率为:
xx
1212

PxXxPXxPXxF(x)F(x).
122121

即任一分布函数处处右连续.


x,存在非负函数f(x),使
x
对任意实数x有Fxftdt,则称X为连续型随机变量,其中

函数f(x)称为X的概率密度函数简称概率密度。在实际应用中遇
到的基本上是离散型或连续型随机变量.
(x)性质:
(1)f(x)0

(2)fxdx1

(3)对于任意实数x,x,xx,
1212
(4)若f(x)在点x处连续则有Fxf(x)

:设连续型随机变量X具有概率密度
4
:.
概率论与数理统计读书笔记
1
,axb
f(x)=ba,则称X在区间a,b
0,其他

.
XUa,(x)0,且f(x)dx=1
-
4指数分布:设连续型随机变量X具有概率密度
1
ex/,x0

fx,其中0为常数,则称X服从参数为的指

0,其他

.
(x)0,且f(x)dx=1
-
5正态分布:设连续型随机变量X具有概率密度
x2
1
fxe22,x,则称X服从参数为,的正态分
2
,当0,1时,称X服从标准正态分布.

定理:设随机变量X具有概率密度fx,x,又设函数g(x)
X
,
处处可导且恒有g'(x)0(或恒有g'(x)0)则Y=g(X)是连续型随机

变量,其概率密度为fxfh(y)h(y)y.
X
Y0其它
第三章多维随机变量及其分布

:Se,Xe、Ye为定义在S上的
随机变量,由它们构成一个随机向量(X、Y),叫二维随机向量或二
维随机变量.
5
:.
概率论与数理统计读书笔记
:设二维随机变量(X、Y),对任意实数x、y,二元函数
F(X,Y)PXx,Yy,称为(X、Y)的(联合)概率分布函数.
二维随机变量分布函数的性质:
(1)Fx,y是变量x和y的不减函数,即对任意固定的y,当xx
21
时Fx,yFx,y;对于任意固定的x,当yy时

2121
Fx,yFx,y.

21
(2)0Fx,y1,且对于任意固定的y,F,y0,对于任
意固定的x,Fx,0,F,0,F,1.
(3)Fx,y=Fx0,y,Fx,y=Fx,y0,即Fx,y关于x右连续,
关于y也右连续.
(4)对于任意x,y,x,y,xx,yy,下述不等式成
11222121
立:Fx,yFx,yFx,yFx,y0.
22211112
如果二维随机变量(X,Y)全部可能取到的不相同的值是有限对或可
列无限多对,则称(X,Y)是离散型的随机变量.
X,Y的分布函数Fx,y.如果存在非负的
yx
函数fx,y使对于任意(X、Y)有Fx,yf,dd,则

称X,Y是连续型的二维随机变量,函数fx,y称为二维随机变
量X,Y的概率密度,或称为随机变量X和Y的联合概率密度.
概率密度fx,y具有以下性质:
(1)f(x,y)0

(2)f(x,y)dxdyF(,)1

(3)设G是xOy平面上的区域,点(X、Y)落在G内的概率为
6
:.
概率论与数理统计读书笔记
P(X,Y)Gf(x,y)dxdy
G
2F(x,y)
(4)若fx,y在点(X、Y)连续则有f(x,y)
xy

(1)均匀分布:定义设D为闭区域面积为A,若随机变量(X、Y)的
1/A(x,y)D
(联合)密度为:f(x,y)

0其它
则称:(X、Y)服从D上的均匀分布.
(2)二维正态分布:若二维随机变量(X、Y)的概率密度为:
1
则称f(x,:y)(X、Y)服从参数为、、、、>0,
21212121
12
>0,||11是常数(x).2记为:(x(X、)(yY)~N)((y、)、22、2、).
exp2121212212

2(12)22

1122
2.边缘分布x;y
X,Y作为一个整体,具有分布函数Fx,y,而X
和Y都是随机变量,也有也有分布函数,将他们分别记为Fx,
X
Fy,依次称为二维随机变量X,Y关于X和Y的边缘分布函
Y
数。边缘分布函数可以由X,Y的分布函数Fx,y所确定,事实
.
上Fx=F(,x)
X
,则其概率密度和
fxfx,ydy
X

分别称,为X,Y关于X和关于Y的边
fyfx,ydxfxfy
YXY
缘概率密度函数.
x
:[f(x,y)dy]dx

7
:.
概率论与数理统计读书笔记

:设X,Y使二维离散型随机变量,对于固定的j,若有

PYy0,则称
j

PXx,Yyp
ij
PXxYyij,i1,2,,为在Yy条件
ijj
PYyp
j·j
下随机变量X的条件分布律。同样,对于固定的i,若PXx0
i

PXx,Yyp
ijij
则称PYyXx,j1,2,,为在Xx
jiPXxpi
ii?
条件下随机变量Y的条件分布律.
:设二维随机变量X,Y的概率密度为fx,y,X,Y关于
fx,y
Y的边缘概率密度为fy.对于固定的y,fy0,则称
YYfy
Y
fx,y

为在Yy的条件下X的条件概率密度,记为fxy.
XYfy
Y
fx,y
xx
称fxydxdx为在Yy的条件下,X的条件分布
XYfy

Y

函数,记为PXxYy或Fxy即
XY
fx,y
x
FxyPXxYydx,
XYfy

Y
fx,yfx,y
y
类似的,可以定义fyx和Fyxdy.
YXfxYXfx

XX

8
:.
概率论与数理统计读书笔记
设(X,Y)是二维离散型随机变量,对于固定的j,若PYj0,则称

PXx,Yyp
ijij
PXxYy,i1,2,...为在Y=y条件下随机
ijj
PYyp
jj
变量X的条件分布律.

给定y,设对于任意固定的正数,PyYy0,且

若对于任意实数x,极限
:设F(x,y),F(x),F(y)分别为二维随机变量(X,Y)的(联
xy
合)分布函数和边缘分布函数,若对于所有x,y有:F(x,y)=
F(x)·F(y),即:PXx,YyPXxPYy,则称X与
xy
Y相互独立.
,Y相互独立f(x,y)f(x)f(y)
xy
,Y相互独立充要条件是对于任意x,y有:
PXx,YyPXxPYy
.

XY的分布
设X,Y的概率密度为fx,y,则ZXY分布函数为
FzPZzfx,ydxdy,由概率密度的定义,即得到Z的
z
xyz

概率密度为fzfzy,ydy,由X,Y的对称性,fz又可
zz


写成fzfx,z,当X和Y相互独立是,设边缘
z

概率密度为fx,fy,则上面两个公式可以化为
XY

fzfzyfydy,fzfxfzxdx,这两个公
zXYzXY

9
:.
概率论与数理统计读书笔记
式称为卷积公式,记为ff即
XY
更一般地,有限个相互独立得正态随机变量的线性组合仍然服从
正态分布.
maxX,Y及NminX,Y的分布
设X,Y是两个相互独立的随机变量,他们的分布函数分别为
F(x),F(y),现在来求MmaxX,Y及NminX,Y的分布函
xy
数。PMzPXz,Yz又由于X和Y相互独立,得到
MmaxX,Y的分布函数为
即有FzFzFz类似的,可得到NminX,Y的分布函
maxXY
数为
FzPNz1PNz1PXz,Yz1PXzPYz
min
即Fz11Fz1Fz.

minXY
第四章随机变量的数字特征

:设离散型随机变量X的分布律为PXx=p,k1,2
kk

若级数xp绝对收敛,则称级数xp的和为随机变量X的数
kkkk
k1k1

学期望,记为E(X)=xp.
kk
k1

(x),若积分xf(x)dx的值


为随机变量X的数学期望,即E(X)=xf(x)dx.

10
:.
概率论与数理统计读书笔记
数学期望简称期望,又称均值.
.
:设Y是随机变量X的函数:Yg(X)(g是连续函数)
1)若X是离散型随机变量,它的分布律为PXx=p,k1,2
kk

若级数g(x)p绝对收敛,则有E(Y)=Eg(X)=g(x)p.
kkkk
k1k1
2)若X是连续型随机变量,它的概率密度为f(x)若

g(x)f(x)dx绝对收敛则有E(Y)=Eg(X)=g(x)f(x)dx.

:
(1)设C是常数,则有ECC
(2)设X是一个随机变量,C是常数,则有ECXCEX
(3)设X,Y是两个随机变量,则有EXYEXEY.这
一性质可以推广到任意有限个随机变量之和的情况.
(4)设X,Y是相互独立的随机变量,则有EXYEXEY;
这一性质可以推广到任意有限个相互独立的随机变量之积的情
况.

(1)0-1分布的数学期望:E(X)p
(2)二项分布b(n,p):E(X)np
k
X~PXke,k0,1,2,...
k!
(3)泊松分布:
kk1
E(X)kee
k!(k1)!
k0k1
11
:.
概率论与数理统计读书笔记
1

(4)均匀分布X~U(a,b).X~f(x)ba,axb,
0,其他

1xx

(5)指数分布:E(X)=xf(x)dxxedxe
00
(6)正态分布N(,2):E(X)


2
:设X是一个随机变量,若EXEX存在,则称


2
EXEX为X的方差,记为DX或VarX即


2
DXVarXEXEX.在应用上引入DX,记为

X称为标准差或均方差.

2
:D(X)xE(X)p,其中
kk
k1
PXxp,k1,2.
kk
2
连续型随机变量:D(X)=xE(X)f(x)dx其中f(x)是X
k

的概率密度.
2
随机变量X的方差可按DXEX2EX计算.


(1)设C是常数,则有DX0
(2)设X是一个随机变量,C是常数,则有DCXC2DX
(3)设X,Y是两个随机变量,则有
若X,Y相互独立,则有DXYDXDY这一性质可以推
广到任意有限个相互独立的随机变量之和的情况
12
:.
概率论与数理统计读书笔记
(4)DX0的充要条件是X以概率1取常数C,PXC1

(2)泊松分布:D(X)
(ba)2
(3)均匀分布U(a,b):D(X)
12
(4)指数分布:D(X)2
(5)正态分布N(,2):D(X)2


1定义:EXEXYEY称为随机变量X与Y的协方差,


记为CovX,Y,即CovX,YEXEXYEY,

CovX,Y
称为随机变量X与Y的相关系数.
XY
DXDY

1)Cov(X,Y)Cov(Y,X)
2)Cov(X,Y)D(X),Cov(X,c)0
3)Cov(aX,bY)abCov(X,Y),a,b是常数
4)Cov(XY,Z)Cov(X,Z)Cov(Y,Z)
5)若X,Y相互独立,则Cov(X,Y)0
6)D(XY,Z)D(X)D(Y)2Cov(X,Y)
:
(1)1
XY
(2)1的充要条件是,存在常数使PYabX1
a,b
XY
13
:.
概率论与数理统计读书笔记
(3)当=0时,称X和Y不相关
XY
(4)当X和Y相互独立时由CovX,Y=0,知=0即X,Y不相关,
XY
反之,若X,Y不相关,X,Y却不一定相互独立.
、协方差矩阵
:设X和Y是随机变量,若E(X),k1,2存在,称它为
k

X的k阶矩。若EXE(X)k,k2,3存在,称它为X的k阶

中心矩。若E(XkYl),k,l1,2存在,称它为X和Y的k1阶混合

XE(X)kYE(Y)l,k,l1