应用概率统计 ppt课件.ppt

§2Bayes判别Bayes判别的基本概念两个总体的判别三群以上的判别有三个箱子,分别编号为1,2,3,1号箱装有1个红球4个白球,2号箱装有2红球3白球,,从中任意摸出一球,发现是红球,?一、Bayes判别的思想基础该公式于1763年由贝叶斯(Bayes),寻找导致B发生的每个原因的概率。Bayes公式Bayes统计思想总是对研究对象已经有一定的认识,通常表示为先验概率分布;然后抽取一个样本,用样本来修正已有的认识,。二、Bayes判别的基本思想(1)假设有m个总体为G1,…,Gm,对应的概率密度各不相同,分别为(2)假设m个总体出现的先验概率分别:先验概率qi的赋值分法:利用历史资料及经验进行估计;将训练样本中各类样品占的比例作为估计;假定各总体的先验概率相等。(3)错判概率和错判损失假设判别规则为:R=(R1,…,Rm)。根据此规则将属于Gi的样品错判给Gj的概率记为P(j|i,R)。则有根据规则R将属于Gi的样品错判给Gj的损失记为C(j|i,R),则有C(i|i,R)=0,C(j|i,R)≥0错判概率的估计方法:利用训练样本作为检验集,即用判别准则对已知类别的样品进行回判,统计判错的个数及占样品总数的比率,作为错判率的估计。此法得到的估计一般偏低。当训练样本足够大时,可留出一些已知类别的样品不参加建立判别准则,而是作为检验集,并把错判的比率作为错判率的估计。当检验集较小时,估计的方差大。舍一法(或称为交叉确认法),每次留出一个已知类别的样品,而用其余n-1个样品建立判别准则,然后对留出的样品进行判别归类。对训练样本中n个样品按此法逐个归类后,最后把错判的比率作为错判率的估计。(4)判别法则R关于先验概率,把来自总体Gi的个体错判给其它总体的平均损失:(5)用规则R进行判别的总平均损失:Bayes法则:选择R,使总平均损失g(R)达到最小。、两个总体的判别