随机过程知识点汇总.pdf

该【随机过程知识点汇总 】是由【青山代下】上传分享，文档一共【27】页，该文档可以免费在线阅读，需要了解更多关于【随机过程知识点汇总 】的内容，可以使用淘豆网的站内搜索功能，选择自己适合的文档，以下文字是截取该文章内的部分文字，如需要获得完整电子版，请下载此文档到您的设备，方便您编辑和打印。:..{X(t)},其中t属于某个集合T,每个随机变量X(t)都与一个时刻t相关联。。离散时间随机过程是指在离散的时间点上取值的随机过程,例如随机游走。连续时间随机过程是指在连续的时间区间上取值的随机过程,例如XXX运动。。均值函数E[X(t)]描述了随机过程在不同时刻的平均取值。自相关函数R(t1,t2)描述了随机过程在不同时刻的相关程度。:..化而变化的随机过程。弱平稳随机过程的自相关函数只与时间差有关,而不依赖于具体的时间点。强平稳随机过程的概率分布在时间上是不变的。。高斯随机过程的均值函数和自相关函数可以唯一确定该过程。,未来状态的条件概率分布只依赖于当前状态,而与过去状态无关的随机过程。马尔可夫性质可以用转移概率矩阵描述,并且可以用马尔可夫链来建模。:..松分布的随机过程。泊松过程的重要性质是独立增量和平稳增量。、信号处理、通信工程、控制理论等领域有广泛的应用。例如,布朗运动被广泛应用于金融学中的期权定价,马尔可夫链被应用于自然语言处理中的语言模型。t)|^2]协方差函数BZs,t)E[(ZsmZs))(ZtmZ:..Zs和Zt是Z在时刻s和t的取值。复随机过程是由实部和虚部构成的随机过程,其均值和方差函数分别由实部和虚部的均值和方差函数计算得到。协方差函数和相关函数也可以类似地计算得到。复随机过程在通信系统中有广泛的应用,例如调制解调、信道编解码等。随机过程是随机现象的变化过程,用一族随机变量来刻画出这种随机现象的全部统计规律性。另一方面,它是某种随机实验的结果,而实验出现的样本函数是随机的。随机变量族是随机过程的一种表示方式,每个随机变量X(t,e)都对应于随机过程在参数t和样本点e处的取值。根据参数集T和状态空间I是否可列,随机过程可以分为四类。同时,根据X(t)之间的概率关系也可以分类,如独立增量过程,马尔可夫过程,平稳过程等。:..随机过程的一维分布,二维分布,,维分布的全体称为有限维分布函数族。然而,要知道随机过程的全部有限维分布函数族是不可能的,因此用某些统计特征来取代。例如,均值函数m、方差函数D、协方差函数B和相关函数R等。这些函数可以用来描述随机过程在不同时刻的平均值、偏离程度和线性相关程度。复随机过程是由实部和虚部构成的随机过程,其均值和方差函数分别由实部和虚部的均值和方差函数计算得到。协方差函数和相关函数也可以类似地计算得到。复随机过程在通信系统中有广泛的应用,例如调制解调、信道编解码等。,正确的公式为:E[(Z_t-m_{Z(t)})(Z_t-m_{Z(t)})]$,因为它没有明确的主题和信息。:协方差函数是描述两个随机变量之间关系的一种方式。对于随机过程,它的协方差函数$B_Z(s,t)$定义为$E[(Z_s-m_{Z(s)})(Z_t-m_{Z(t)})]$,其中$m_{Z(t)}$是随机过程$Z(t)$在$t$时刻的均值。:..相关函数$R_Z(s,t)$是衡量随机过程在不同时刻$s$和$t$的取值之间关系的一种方式。它的定义为$E[Z_sZ_t]$。注意到$R_Z(s,t)$与协方差函数$B_Z(s,t)$之间存在关系:$B_Z(s,t)=R_Z(s,t)-m_{Z(s)}m_{Z(t)}$。:常用的随机过程有以下几种类型:1)二阶距过程:对于实(或复)随机过程,如果对于每一个T$,都有,即二阶距存在,则称该随机过程为二阶距过程。2)正交增量过程:设是均值为零的二阶距过程,如果对于任意的,有$E[(X(t_2)-X(t_1))(X(t_4)-X(t_3))]=0$,则称该随机过程为正交增量过程。它的协方差函数为,相关函数为。3)独立增量过程:对于随机过程,如果对于任意正整数,以及任意的,随机变量1})$是相互独立的,则称是独立增量过程。如:..,随机变量的分布仅依赖于$t-s$,则称是平稳独立增量过程。4)马尔可夫过程:如果随机过程具有马尔可夫性,即对于任意正整数$n$和,有,则称是马尔可夫过程。5)正态过程:对于随机过程,如果对于任意正整数$n$和,是$n$维正态随机变量,其联合分布函数是$n$维正态分布函数,则称是正态过程或XXX过程。6)维纳过程:是正态过程的一种特殊情形。为具有参数的泊松过程,如果满足以下三个条件:X(0)=0;②独立增量过程,即对于任意正整数n和任意的t1<t2<。<tn,X(t2)-X(t1)。X(t3)-X(t2)。X(tn)-X(tn-1)相互独立;③在任意长度为t的时间区间内,事件A发生的次数服从参数λt的泊松分布,即P{X(t+s)-X(s)=n}=e^(-λt)(λt)^n/n。n=0,[X(t)]=λt,λ=E[X(t)]/t表示单位时间内事件A发生的平均次数,也称为速率或强度。:..平稳过程是指在时间平移下保持统计性质不变的随机过程。严(狭义)平稳过程要求对于任意常数和正整数n以及t1,,t1+τ,t2+τ。tn+τ∈T,(X(t1),X(t2)。X(tn))与(X(t1+τ),X(t2+τ)。X(tn+τ))有相同的联合分布。广义平稳过程要求满足三个条件:①二阶距过程;②对任意的t∈T,EX(t)是常数;③对任意s,t∈T,EX(s)EX(t)=RX(s,t),或仅与时间差t-s有关。如果一个随机过程满足这三个条件,则称其为广义平稳过程,或简称平稳过程。,其任何有限时间上的增量服从正态分布,且方差随时间长度线性增加。维纳过程是一个Markov过程,因此当前值就是做出未来预测所需的全部信息。马尔可夫过程具有马尔可夫性或无后效性,即在当前状态已知的情况下,未来状态的条件分布只与当前状态有关,而与过去状态无关。这可以表示为:..。马尔可夫链是一种随机过程,其条件概率满足转移概率矩阵的性质。具体来说,对于任意的整数$n$和任意的状态。i_{n+1}$,如果。。,那么就是一个马尔可夫链。马尔可夫链的统计特性完全由条件概率决定。转移概率是马尔可夫链中非常重要的概念。对于状态$i$和状态$j$,转移概率$p_{ij}(n)$表示在时刻$n$,从状态$i$转移到状态$j$的概率。如果马尔可夫链是齐次的,那么转移概率与时间$n$无关,记为$p_{ij}$。转移概率构成的矩阵称为系统的一步转移矩阵,每行元素之和为$1$。马尔可夫链的转移概率具有一些重要的性质,包括可加性和齐次性。对于任意的$m,l,n$,有:..C-K方程。证明可以使用条件概率的乘法公式和马尔可夫性质。,它具有马尔可夫性质,即在给定当前状态下,未来状态与过去状态是独立的。马尔可夫链的状态空间是离散的,状态之间的转移是基于一步转移概率矩阵P来描述的。在马尔可夫链中,初始概率和绝对概率向量分别表示时刻0和时刻n状态的概率分布。,是一个n次乘方的一步转移概率矩阵。有限维分布完全由初始概率和一步转移概率所决定,可以用矩阵形式表示为P(n)=P(0)PT(n)。绝对概率向量表示n时刻状态为j的概率,可以用公式-1)p(ij)计算得到。、首中概率、常返态和返回时间等特性进行分类。周期是指自某状态出发,再返回某状态的所有可能步数最大公约数,如果大于1则称该状态是:..出发经n步首次到达j的概率,可以用公式计算得到。常返态是指从状态i出发再返回到i的概率为1的状态,返回时间是指从状态i出发再返回到i的平均时间。如果返回时间有限,则称该状态是正常返态;否则是零常返态。非周期的正常返态是遍历状态。,如果对任意的状态i属于某个闭集C,而状态j不属于C,则状态i和状态j是不连通的。状态空间的分解可以帮助我们更好地理解和分析马尔可夫链的性质和特性。:如果从闭集C中的任意状态i出发,都不能到达C之外的状态j,则称C为闭集。如果C中的状态互相可达,则称C为不可约闭集。如果状态空间中没有其他闭集,就称马尔可夫链为不可约的。:如果对于闭集C中的任意状态i,都不存在一步转移可以到达C之外的状态j,则C为闭集。这意:..中,它将永远留在C中运动。如果某个状态i的转移概率pii为1,则称该状态为吸收态,等价于将单点{i}看作闭集。:任意一个马尔可夫链的状态空间I都可以唯一地分解成有限个互不相交的子集D和C1C2Cn的和。其中每一个Cn都是由常返态组成的不可约闭集,而D则由非常返态组成。分解定理说明了状态空间的状态可以按照常返态和非常返态分为两类,其中常返态组成一个闭集C,而非常返态组成集合D。闭集C又可以分为若干个互不相交的基本常返闭集C1C:..CnD中,要么某一时刻进入某个基本常返闭集Cn一旦进入就永不离开。从常返态出发,质点必属于某个基本常返闭集Cn永远在该闭集Cn中运动。:如果马尔可夫链的状态空间是一个有限集合,则称其为有限马尔可夫链。有限马尔可夫链的性质包括:所有非常返态组成的集合不是闭集,不存在零常返态,必定存在正常返态,状态空间可以分解为非常返集合D和正常返集合C1C:..。第一个问题是当n趋近于无穷大时,转移概率pij是否存在极限值?第二个问题是,如果存在极限值,是否与初始状态有关。如果对于状态i和j,存在不依赖于i的极限值limpijpj0,则称马尔可夫链具有遍历性。对于有限马尔可夫链,如果所有状态都是正常返态,则该链具有平稳分布。t,t)EY(t)X(t)R:..21)对于任意的t和,有RXXt,t)0,RYYt,t)0,RXYt,t)[RXt)RYt),RXt)RYt)];2)RXX:..RYY0)=Var[Y(t)],RXY0)=Cov[X(t),Y(t)];3)RXYRYX即互相关函数是对称的;4)RXYmin(RXX0),RYY0)),即互相关函数的绝对值不超过自相关函数的最小值。:平稳随机过程的谱密度函数是它傅里叶变换的平方,即S()=|F{X(t)}|2.:..1)S()0;2)S()在整个实轴上积分等于过程的方差,即S()d=Var[X(t)];3)S()是一个偶函数;4)若平稳过程的自相关函数可写成RXt)=0S()cos(t)d。则S()可表示为S()=20RX:..t):自回归过程是指过程在t时刻的取值与其前p个时刻的取值的线性组合有关,即X(t)=1X(t1)+2X(tpX(tp)+(t)。其中,(t)是均值为0,方差为2的白噪声。(p)过程的性质:1)AR(p)过程是宽平稳过程;2)AR(p)过程的自相关函数可以用其系数和方差表示出来;3)AR(p)过程的谱密度函数可以用其系数表示出来,且在趋近于时有一个极大值。:..1d0B()为平稳过程的自相关函数。在平稳过程的各态历经性定理中,我们可以看到,只有在一定条件下的平稳过程才具有各态历经性。因此,我们需要讨论平稳过程的历经性,以确定是否可以用一个样本函数去近似计算平稳过程的数字特征。对于均值和相关函数而言,它们的各态历经性定理分别为均值各态历经性定理和相关函数各态历经性定理。其中,均值具有各态历经的充要条件是一个积分式,相关函数具有各态历经的充要条件也是一个积分式。需要注意的是,这些定理只适用于均方连续的平稳过程。的FT,因此sX是实数且非负。改写:谱密度sX是RX:..X是实数且非负。)等于平稳过程的平均功率。改写:sX0)等于平稳过程的平均功率。。改写:谱密度sX是偶函数。(t)是实值过程,则sX:..改写:如果X(t)是实值过程,则sX是实偶函数。(t)是实值过程,则RX是实偶函数。改写:如果X(t)是实值过程,则RX是实偶函数。(t)是实值过程,则sX在=0处连续。改写:如果X(t)是实值过程,则sX在=0处连续。(t)是实值过程,则s:..:如果X(t)是实值过程,(t)是宽平稳过程,则sX是常数。改写:如果X(t)是宽平稳过程,则sX是常数。(t)是窄平稳过程,则sX在处有峰值。改写:如果X(t)是窄平稳过程,则sX在处有峰值。:..X(t)是白噪声,则sX是常数。改写:如果X(t)是白噪声,则sX是常数。X和sYsX的乘积。,例如,可以用互谱密度来描述两个信号之间的相互作用,以及在信号处理中的滤波和降噪等方面的应用。(t)和Y(t)相互正交,有,则sXY(ω)=sYX(ω)=0.:..为实平稳随机过程,则输出Y(t)也是实平稳随机过程。即输出过程的均值为常数,相关函数是时间差的函数。且有R-τ)=RX(τ)h(τ)h(-τ)。说明输出过程的相关函数可以通过两次卷积产生。(τ)=RX(τ)h(τ)的应用:给系统一个白噪声过程X(t),可以从实测的互相关资料估计线性系统的未知脉冲响应。因为RX(τ)=Nδ(τ),RXY(τ)=RX(τ)h(τ)=∫Nδ(τ-u)h(u)du=Nh(τ),从而h(τ)=RXY(τ)/N。(ω)=H(ω)sX(ω),H(ω)称为系统的频率增益因子或频率传输函数。有时,采用时域卷积的方法计算输出的相关函数比较烦琐,可以先计算输出过程的谱密度,然后反FT计算出相关函数。RX(τ)→sY(ω)=H(ω)sX(ω)→RY(τ)。补充:排队论:..间必服从负指数分布。对于泊松分布,表示单位时间平均到达的顾客数,所以1/λ表示顾客相继到达的平均间隔时间。,设它的概率密度函数和分布函数分别为f(t)=μe-μt和F(t)=1-e-μt。其中μ表示单位时间能够服务完的顾客数,为服务率;而1/μ表示一个顾客的平均服务时间。,可以用排队轮模型。平均间隔时间=总时间/到达顾客总数,平均服务时间=服务时间总和/顾客总数,平均到达率=到达顾客总数/总时间,平均服务率=顾客总数/服务时间总和。根据排队轮模型,可以计算出系统的平均顾客数、平均等待时间、平均逗留时间等指标。n1-ρ)ρ^n/n!各运行指标:1)队长:平均队长Ls等于ρ/(1-ρ),平均排队长Lq等于ρ^2/(1-ρ):..Ws等于-λ),等待时间Wq等于ρXXX(μ-λ)3)忙期:忙期长度等于1/μ(1-ρ)4)顾客损失率:顾客损失率等于ρ^n/(n!(1-ρ))5)服务强度:服务强度等于λ//∞/∞:单服务台,系统容量无限,顾客源无限。λ到达率,μ服务率,ρ=λ/μ。状态转移图,稳态概率方程得到Pn的表达式。各运行指标的计算公式也给出。/∞:单服务台,系统容量为N,顾客源无限。λ到达率,μ服务率,ρ=λ/μ。状态转移图,稳态概率方程得到Pn的表达式。队长、排队长、逗留时间、等待时间等指标的计算公式也给出。/∞/m:单服务台,系统容量无限,顾客源m。λ到达率,μ服务率。状态转移图,稳态概率方程得到Pn的表达式。本文介绍了M/M/c排队系统的一些基本概念和公式。M/M/c系统是一种多服务台排队系统,其系统容量无限,顾客源也无限。其中,λ为到达率,μ为服务率,ρ为强度。系统的状态转移图可以得出稳态概率方程。在系统中无顾客的情况:..可以通过公式计算得出。在系统中有n个顾客的情况下,概率Pn可以通过公式计算得出。系统的平均队长Lq、平均逗留时间Wq、平均队长Ls、平均逗留时间Ws可以通过公式计算得出。M/M/c排队系统是一种常见的排队系统,其应用广泛。在实际应用中,我们需要根据具体情况,选择合适的c值,以达到最优的排队效果。同时,我们还需要注意系统的稳定性和可靠性,以确保系统能够长期稳定运行。